Discord по ошибке забанил тысячи игроков из-за обычных скриншотов Minecraft

Discord восстановил более 8 тысяч аккаунтов, которые были ошибочно заблокированы после сбоя в системе автоматической модерации. Причиной стали обычные изображения из Minecraft, которые алгоритм по ошибке принял за запрещённый контент, связанный с эксплуатацией детей.

Под ограничения попали пользователи, отправлявшие скриншоты инвентаря, шахматных досок, таблиц и других изображений с характерной квадратной сеткой. Из-за сходства с шаблонами, используемыми системой проверки, алгоритм начал ошибочно помечать такие картинки как потенциально опасные.

После жалоб пользователей Discord признал проблему и пояснил, что подобный контент должен был лишь временно отправляться на ручную проверку. Из-за технической ошибки система сразу выдавала полноценные блокировки. Компания сообщила, что все затронутые аккаунты уже разблокированы, а также пообещала доработать механизм модерации, чтобы подобные ситуации не повторялись.