Из-за ошибки платформы Discord страница была закрыта для тысяч пользователей.
Известная платформа для общения Discord столкнулась с серьезной технической неисправностью в своей системе модерации, основанной на искусственном интеллекте. Об этом сообщило Zamin.uz.
Как сообщается, из-за этой ошибки в течение последних двух месяцев более 8000 пользователей лишились доступа к своим личным страницам без каких-либо обоснованных причин. Система ошибочно классифицировала полностью безвредные изображения как опасный контент.
Эта информация получила широкое освещение в влиятельных изданиях. Основная причина проблемы заключается в том, что автоматизированные фильтры безопасности платформы ошибочно относят простые электронные таблицы, изображения шахматных досок, различные элементы из игр, а также изображения с белым и цветным прозрачным фоном к категории запрещенного материала.
Из-за этой технической неисправности, продолжающейся с мая, во время выходных дней еще сотни пользователей были лишены возможности зайти на свои страницы. Согласно официальному заявлению компании, автоматизированная система платформы работает путем сравнения загруженных данных с базой вредоносного контента.
Хотя эта технология предназначена для обнаружения незаконного контента, иногда она может выдавать ошибочные результаты. Обычно любые данные, помеченные как подозрительные, должны проходить повторную проверку специалистами.
Однако из-за недостатка в системе искусственный интеллект блокировал пользователей немедленно, не дожидаясь результатов проверки. В настоящее время компания сообщила, что начала процесс восстановления всех заблокированных страниц.
В социальных сетях пользователи выражают свое недовольство этой ситуацией. Большинство считает, что система модерации стала чрезмерно чувствительной к геометрическим формам.
Причина этого заключается в том, что некоторые правонарушители пытаются обойти автоматические системы обнаружения запрещенного контента, используя именно такие геометрические формы. Эта ситуация еще раз демонстрирует, насколько рискованно полностью полагаться на искусственный интеллект в крупных платформах.
Кроме того, специалисты, чья деятельность напрямую связана с этой платформой, сталкиваются с непредвиденными ограничениями, которые наносят им серьезный ущерб. Представители компании заявили, что в будущем они усилят меры безопасности, чтобы подобные ситуации не повторялись.
В этом контексте планируется восстановление незаконно заблокированных страниц, пересмотр методов сравнения изображений и обязательное внедрение этапа человеческого контроля. Пользователям из Узбекистана, столкнувшимся с подобной проблемой, рекомендуется немедленно обратиться в службу поддержки.
