Discord заблокировал тысячи аккаунтов из-за скриншотов Minecraft, ошибочно принятых за запрещённый контент

Discord массово разблокировал тысячи аккаунтов после сбоя в системе модерации, из-за которого обычные изображения из Minecraft были ошибочно отмечены как материалы с детской эксплуатацией (CSAM).

По данным компании, проблема затронула более 8 тысяч пользователей. Многие из них были заблокированы после отправки скриншотов игровых инвентарей, таблиц, шахматных досок и других изображений с сеточной структурой.

Причиной стали ошибки в работе автоматической системы проверки контента. Из-за сходства изображений с известными запрещёнными материалами алгоритм начал помечать обычные картинки как потенциально опасные.

Ситуация получила огласку после того, как пользователи рассказали о массовых блокировках. Они утверждали, что система Discord ошибочно реагировала на любые изображения с квадратной сеткой — включая интерфейс инвентаря Minecraft.

В Discord признали проблему и заявили, что банить пользователей система не должна была. По словам компании, контент должен был временно блокироваться для проверки сотрудниками службы безопасности, однако из-за ошибки аккаунты получили полноценные ограничения.

«Мы обнаружили ошибку, из-за которой блокировки не снимались автоматически после проверки и подтверждения отсутствия нарушений», — сообщили в Discord.

Компания заявила, что все затронутые аккаунты были восстановлены, а также пообещала внедрить дополнительные меры защиты от подобных ошибок в будущем.

При этом часть пользователей продолжила критиковать Discord, заявляя, что подобные массовые блокировки показывают проблемы автоматизированной модерации и отсутствие эффективного механизма обжалования решений.