Предоставлена информация об опасности создания биологического оружия через ChatGPT
Один из авторитетных американских изданий The Wall Street Journal опубликовал тревожные данные о безопасности искусственного интеллекта. Об этом сообщает One.uz.
По данным издания, некоторые пользователи пытались получить через систему ChatGPT опасную информацию о создании биологического оружия и ядовитых веществ. Эксперты отметили, что в некоторых случаях искусственный интеллект возвращал на такие запросы неожиданно точные и подробные ответы.
Этот случай усилил дебаты о надежности систем безопасности современных технологий. В статье отмечается, что после обновления своих моделей компанией OpenAI выросло количество запросов по сложным и одновременно опасным темам в области биологии и химии.
Эксперты подчеркивают, что некоторые полученные ответы технически верны и могут быть применены на практике. Это создает риск того, что лица со злым умыслом могут использовать эту технологию как оружие.
Меры безопасности и ограничения Представители OpenAI, прокомментировавшие ситуацию, сообщили, что аккаунты пользователей, отправляющих опасные запросы, блокируются немедленно. Компания подчеркивает, что постоянно переобучает свои модели и усиливает фильтры безопасности.
В настоящее время в системе установлены строгие запреты на предоставление таких данных, которые призваны предотвратить утечку запрещенной информации. Тем не менее, в законодательстве США пока не введен обязательный порядок отчетности для компаний по искусственному интеллекту о таких подозрительных запросах в государственные органы.
Отсутствие единого федерального закона позволяет компаниям самостоятельно принимать решения по этому вопросу. Это может создать определенные трудности для правоохранительных органов в своевременном выявлении опасных действий.
Глобальное сотрудничество и будущие угрозы Издание The Wall Street Journal сообщает, что пользователи обращались с такими запросами не только к ChatGPT, но и к другим крупным чат-ботам. Пока не приведено точных доказательств того, как системы таких компаний, как Google или Anthropic, отвечают на подобные запросы.
Однако все крупные технологические гиганты заявляют о сотрудничестве с правительствами и международными экспертами для предотвращения использования искусственного интеллекта в вредоносных целях. По мнению специалистов, беспрецедентная скорость развития искусственного интеллекта превратила вопрос безопасности в одну из самых актуальных проблем мирового масштаба.
По мере расширения технологических возможностей растет и риск их неправильного использования. Поэтому крупные компании вынуждены ежедневно совершенствовать механизмы защиты своих систем.
В будущем ожидается разработка новых международных стандартов и правовых норм для усиления контроля в этой сфере.
