Альянс под руководством Nvidia объявил о стандартах безопасности искусственного интеллекта
Alliance Open and Secure AI (OSAA), созданный под руководством компании Nvidia, в кратчайшие сроки сумел объединить вокруг себя более двадцати крупнейших технологических корпораций. Об этом сообщает One.uz
В рамках этой отраслевой группы была сформирована специальная рабочая группа, изучающая проблемы безопасности в сфере искусственного интеллекта, и её первые практические предложения были вынесены на широкое общественное обсуждение. Данная инициатива направлена на выявление уязвимостей в системах ИИ, оперативное оповещение об инцидентах безопасности и внедрение единых стандартов предотвращения кибератак
Эта новость была объявлена в рамках престижной конференции по кибербезопасности Black Hat, прошедшей в Лас-Вегасе. Хотя предлагаемые руководства и правила не являются чем-то совершенно новым, они значимы благодаря формированию системного подхода
В частности, в рамках альянса разрабатываются механизмы конфиденциального обмена данными по безопасности ИИ, своевременного оповещения пострадавших сторон и извлечения уроков из допущенных ошибок. Открытые технологии и вклад ведущих компаний Участники альянса включают свои открытые технологии в общую базу, активно обогащая её
В будущем эти усилия послужат единым и надежным инструментом с открытым исходным кодом для защиты предприятий от их ИИ-агентов или противодействия вредоносным атакам. Например, платформа Hugging Face, входящая в эту группу, ранее уже сталкивалась с кибератаками, осуществленными через модели ИИ, и теперь активно участвует в предотвращении подобных рисков
На сегодняшний день в состав альянса вошли крупнейшие мировые технологические бренды. В то время как компания Nvidia предоставляет инструменты для сканирования уязвимостей в семействах открытых моделей и больших языковых моделей, компания Okta работает над технологиями цифровой идентификации
Корпорация Red Hat развивает направление управления ИИ-агентами, а Amazon передала в общественное пользование инструмент для создания открытых агентов и язык авторизации
Известные участники и неожиданные факты Хотя в ряды альянса присоединились такие гиганты, как Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, отсутствие на данный момент в этой группе таких лидеров отрасли, как Anthropic, OpenAI и Google, привлекает внимание экспертов
Интересно то, что эти компании ранее обращались к правительству США с просьбой поддержать инициативы в области открытого ИИ. Эта инициатива, выдвинутая Nvidia, возникла в то время, когда международная технологическая конкуренция в США усилилась, а вопрос безопасности открытых моделей стал актуальным
По мнению отраслевых экспертов, объединение таких крупных игроков является наиболее эффективным способом защиты американской экосистемы открытого ИИ от любых внешних угроз и обеспечения безопасного технологического будущего
