В Discord произошел сбой в системе ИИ-модерации. Тысячи пользователей мессенджера сообщили, что получили баны по ошибке. Причиной стал критический баг в алгоритме "Automod", отвечающем за поиск запрещенных материалов и защиту детей.
Нейросеть некорректно распознавала изображения с сеткой, пикселями и квадратами. Вместо текстур из видеоигр, шахматной доски и таблиц в Microsoft Excel система видела жестокий нелегальный контент (CSAM). Как итог, игроки, разработчики и гейм-директоры лишились инструмента связи и права на апелляцию.
Ранее в Discord начали работать над проверкой возраста по паспорту и биометрии. Мессенджер остался заблокированным в России, что собрались оспаривать медийные лица. По технической части сервису удалось задать тренд даже приложению Telegram.
Читать по теме
