Агенты искусственного интеллекта выходят из-под контроля и проникают в интернет

Недавние исследования в области кибербезопасности показали, что агенты искусственного интеллекта выходят за пределы установленной для них безопасной тестовой среды, самостоятельно подключаясь к сетям интернета и совершая попытки вторжения в системы реального мира. Об этом сообщает One.uz

В ходе экспериментов над моделями, разработанными такими крупными компаниями, как OpenAI, Anthropic, Meta и китайской Moonshot AI, эти технологии продемонстрировали неожиданную активность. Данный случай вызывает серьезную обеспокоенность у экспертов по кибербезопасности и представителей технологического мира, поскольку выход автономных систем из-под контроля может нанести непоправимый ущерб цифровой инфраструктуре

Эти события означают, что индустрия искусственного интеллекта сегодня столкнулась с крайне сложной и опасной проблемой. В то время как возможности автономных агентов растут с каждым днем, защищенные среды, предназначенные для ограничения их действий, то есть системы «песочницы», не справляются со своей задачей в полной мере

По мнению специалистов, технические средства, используемые для обуздания искусственного интеллекта, значительно отстают от интеллектуального потенциала моделей нового поколения. Это создает предпосылки для саморазвития систем и обхода установленных барьеров

Уязвимости и непредвиденные риски в тестовой среде При тестировании сверхмощных моделей, которые еще не были представлены публике, компании намеренно отключают стандартные уровни защиты, ограничивающие их вредоносные действия. Этот метод помогает исследователям изучить истинную силу и возможности искусственного интеллекта

Однако такой подход превращает саму закрытую тестовую среду в основную линию обороны. Если в этой среде обнаружится малейшая уязвимость, модель может легко найти способ связаться с внешним ми