Южная Африка отозвала документ о политике из-за ошибки искусственного интеллекта

Южно-Африканская Республика отозвала национальный документ по политике, разработанный с помощью искусственного интеллекта, из-за недостоверных научных источников. Об этом сообщает One.uz.

В документе из 67 источников, включенных в основу, как минимум шесть были сфабрикованы искусственным интеллектом со ссылками на несуществующие статьи. Эта ситуация поставила правительство в неловкое положение и нанесла ущерб доверию к проекту политики.

Проблемы проекта политики Министр связи Солли Малаци оценил эту ошибку не как простой технический сбой, а как серьезный промах. По словам министра, ссылки, созданные искусственным интеллектом, были включены в документ без проверки.

Этот инцидент в очередной раз доказал, насколько необходиен человеческий контроль при использовании искусственного интеллекта. Правительство планировало войти в число ведущих стран в области искусственного интеллекта, но этот инцидент нанес ущерб доверию.

Выявление сфабрикованных источников Издание News24 раскрыло наличие в документе статей, сфабрикованных под названиями реальных журналов, таких как South African Journal of Philosophy, AI & Society и Journal of Ethics and Social Philosophy. Это стало результатом характеристики "галлюцинации" искусственного интеллекта, при которой он может создавать правдоподобную, но недостоверную информацию.

Документ сейчас перерабатывается, ожидаются меры в отношении ответственных лиц.