Предупреждено о выходе искусственного интеллекта из-под человеческого контроля

В сфере мировых информационных технологий и искусственного интеллекта перед человечеством возникли серьёзные угрозы будущему. Об этом сообщает One.uz.

Известный бывший ведущий исследователь компании Anthropic, разрабатывающей крупные языковые модели, Джейкоб Коксон открыто высказался о страхах, связанных с бурным развитием технологий. Специалист, выступивший в эфире американского телеканала NBC, сравнил создание новых систем, выходящих из-под контроля человеческого разума, с взаимодействием с внеземным разумом.

По его словам, несправедливая конкуренция между гигантами искусственного интеллекта отодвигает вопросы безопасности на второй план, что может привести к полному выходу систем из-под человеческого контроля к концу текущего года. Сравнение с внеземным разумом и внутренние угрозы

Джейкоб Коксон в своём интервью подчеркнул, что создаётся огромная сила, которую человечество ещё не полностью понимает.

По мнению эксперта, процесс формирования сверхмощного интеллекта аналогичен выбросу внеземной расы на поверхность Земли. Даже в отсутствие точных катастрофических сценариев сама идея создания чужого для человечества разума оказалась крайне пугающей.

Бывший сотрудник также рассказал об условиях в лаборатории до своего ухода. По его словам, специалисты компании регулярно обсуждали возможные глобальные катастрофы, связанные с выпуском искусственного интеллекта.

Коксон в компании отвечал за обучение и формирование новых поколений моделей на основе больших данных, поэтому его предупреждения серьёзно воспринимаются представителями отрасли. Кризис доверия и жертвы безопасности

Исследователь резко criticised отсутствие регулирования на рынке информационных технологий и конкуренцию между корпорациями.

Он абсолютно уверен, что ни одна компания в мире не способна создать искусственный интеллект с полной гарантией безопасности. Конкуренция в Кремниевой долине вынуждает разработчиков игнорировать стандарты безопасности.

Из-за этой спешки новые модели выпускаются на рынок без достаточного тестирования. По предупреждению Коксона, автономные системы, способные к самообучению, могут выйти из-под контроля человека в управлении и надзоре к концу этого года.

Такая ситуация поднимает не только технологические, но и этические и правовые вопросы. Руководитель компании Дарио Амодеи также выразил обеспокоенность текущей ситуацией и подчеркнул необходимость замедления глобального темпа развития, чтобы не потерять контроль над системами.

Сейчас перед экспертами стоит главный вопрос: сможет ли человечество обуздать созданный им разум или начнётся эра управления машинами.