Новые модели Xitoyn приблизились к лидерам в области искусственного интеллекта.
Технологии искусственного интеллекта находятся в эпоху бурного развития, и возможности открытого кода и открытых весовых моделей приближают крупнейшие компании мира к их реализации. Об этом сообщает One.uz.
В частности, модель GLM-5.2, представленная китайской компанией Z.ai, в сферах кибербезопасности и биологии обгоняет системы гигантов вроде OpenAI и Anthropic на несколько месяцев. По мнению экспертов, такие высокие показатели могут усилить конкуренцию в сфере ИИ, но одновременно выявить серьёзные проблемы безопасности, связанные с кибератаками и биологическими угрозами.
Согласно последнему отчёту некоммерческой организации SaferAI, новые поколения открытых весовых моделей стремительно приближаются к уровню передовых систем. Однако вместе с ростом технологических возможностей расширяется и разрыв между мерами безопасности и потенциальными угрозами.
Эта ситуация требует фундаментального пересмотра механизмов управления новыми рисками, стоящими перед обществом, поскольку неконтролируемые мощные модели в руках злоумышленников могут превратиться в опасное оружие.
Серьёзные недостатки в системе безопасности
Оценка, проведённая организацией, показала, что модель GLM-5.2 не отклонила ни один из запросов, связанных с кибератаками или двойного назначения биологическими задачами. Для сравнения, модель Claude Opus 4.7 компании Anthropic не смогла пройти специализированные тесты на оценку кибербезопасности из-за строгого соблюдения правил безопасности.
Это ещё раз демонстрирует, насколько сложно обеспечить контроль над открытыми весовыми моделями и насколько они могут приводить к непредвиденным последствиям. Основная особенность открытых весовых моделей заключается в том, что их может загрузить и запустить любой человек на своём устройстве в личной инфраструктуре.
В таких условиях централизованный контроль над системой невозможен. Пользователи могут удалять, модифицировать или перенастраивать все механизмы защиты в моделях на своих компьютерах в соответствии со своими интересами без каких-либо препятствий.
Это может открыть новые возможности для киберпреступности. Уязвимости в закрытых и открытых системах
Создатели закрытых систем, таких как OpenAI и Anthropic, используют специальные методы фильтрации и контроль на уровне программного интерфейса для ограничения опасных выводов.
Однако эти меры не всегда эффективны. Исследователи обнаружили методы обхода защиты в продвинутых моделях, таких как Grok 4.5 от xAI и Gemini 3.1 Pro от Google DeepMind.
Через ролевые игры и искусственные диалоги остаётся возможность эксплуатации слабых мест моделей. Несмотря на это, защитные меры, применимые к закрытым моделям, работают значительно эффективнее по сравнению с открытыми системами.
Причина в том, что открытые модели по своей природе настроены на работу без каких-либо ограничений. Как подчеркивают эксперты, основная цель должна состоять не только в том, чтобы сделать технологические возможности доступными для всех, но и в сохранении баланса между ответственностью и безопасностью при их использовании.
В противном случае неконтролируемое развитие может серьёзно угрожать глобальной безопасности.
