«Reddit» борется с фейковыми новостями с помощью искусственного интеллекта

В интернет-мире распространение спама и рекламы, созданных с помощью искусственного интеллекта, стало серьёзной проблемой для крупных сетей. Об этом сообщил Zamin.uz.

Социальная сеть Reddit объявила, что внедрила технологии больших языковых моделей для борьбы с этой угрозой. Этот уникальный подход позволяет платформе использовать более умные алгоритмы для обнаружения контента, созданного ботами.

Об этой новости сообщают международные технологические издания. В последние годы широкое распространение текстовых нейросетей предоставило злоумышленникам возможность создавать ложную информацию в беспрецедентных объёмах.

Если ранее защитные системы легко блокировали простые и повторяющиеся тексты, то современные модели, обученные на таких данных, генерируют сообщения, крайне близкие по стилю к человеческой речи. Согласно данным Reddit, платформа ежедневно блокирует десятки миллионов попыток спама и выявляет тысячи новых фейковых постов и комментариев.

В новой фазе технологической борьбе новые инструменты способны выявлять сложные и адаптивные паттерны фейкового поведения, которые старые системы не могли обнаружить. Это доказало свою эффективность против попыток искусственного распространения тем или скрытого проведения рекламных кампаний.

Компания достигла значительного снижения уровня вовлечённости пользователей в спам в первые месяцы текущего года. Другие крупные платформы также решают эту проблему различными способами.

Например, такие сети, как YouTube и Meta, позволяют пользователям размещать контент, созданный с помощью искусственного интеллекта, при определённых условиях. Некоторые сервисы коротких видео предоставляют пользователям возможность настраивать, сколько искусственного контента они хотят видеть в своих лентах.

Reddit же делает основной акцент на обеспечении безопасности пользователей и чистоты платформы. Текущее развитие больших языковых моделей помогает не только быстрее обнаруживать спам, но и ненавистную речь, а также другие виды информации, нарушающие правила.

Однако эксперты отрасли предупреждают, что полная зависимость от алгоритмов опасна. Для достижения максимальной эффективности искусственные интеллект-системы должны работать совместно с человеческими модераторами под надзором.

Для пользователей социальных сетей в узбекском сегменте эта новость также имеет важное значение. Усиление такой борьбы на глобальных платформах обеспечивает поступление более качественной и надёжной информации для местной аудитории.

Опыт Reddit показывает, что проблемы, созданные технологиями, можно решить только с помощью ещё более продвинутых и современных технологий.