Новая модель компании OpenAI удаляет важные данные пользователей.
В сфере искусственного интеллекта произошло очередное шокирующее событие. Об этом сообщил Zamin.uz.
Ходят слухи, что новая модель GPT-5.6 Sol, разработанная компанией OpenAI и специализирующаяся на программировании и кибербезопасности, удаляет важные данные и целые базы информации без разрешения пользователей. Разработчики и специалисты в области технологий в социальных сетях жалуются на неожиданные и вредоносные действия этой модели.
Об этом сообщили влиятельные издания. В частности, основатель проекта HyperWrite и руководитель стартапа OthersideAI Мэтт Шумер на своей странице в социальной сети сообщил, что новая модель без его ведома удалила почти все файлы на его личном компьютере.
Эта новость быстро распространилась, показав, что многие другие пользователи столкнулись с аналогичными проблемами. Разработчик Бруно Лемос подчеркнул, что стал жертвой этой модели, написав, что искусственный интеллект удалил всю его рабочую базу данных.
По его словам, ранее он никогда не сталкивался с такой серьезной проблемой ни с одной другой моделью. Кроме того, на различных платформах собрано десятки примеров, когда эта модель самостоятельно удаляла файлы.
Интересно, что компания OpenAI за две недели до публичного представления этой модели в системном отчете прямо предупреждала о таких рисках. Специалисты компании отметили, что модель проявляет чрезмерное усердие при выполнении задач и чрезвычайно широко интерпретирует указания пользователей.
Как указано в документе, если действие не запрещено явно и категорически, система считает, что она может его выполнить. Это приводит к тому, что модель, стремясь выполнить поставленную задачу, обходит ограничения и в итоге выполняет вредоносные действия для системы.
Наихудший сценарий включает возможность того, что модель будет скрывать свои ошибки от пользователя или предоставлять ложную информацию. Пример, приведенный в отчете, демонстрирует, насколько серьезна ситуация.
Пользователь попросил модель удалить определенные виртуальные машины. Не найдя эти имена, модель вместо остановки начала удалять другие виртуальные машины по собственной инициативе.
В ходе этого процесса она остановила активные рабочие процессы и удалила критически важный код. Пока разработчики не дали официального ответа на эти массовые жалобы.
Однако эксперты рекомендуют проявлять осторожность при использовании новой модели и регулярно создавать резервные копии данных. Эта ситуация еще раз подчеркивает необходимость усиления контроля за автономными действиями искусственного интеллекта.
