Рекомендация ChatGPT ухудшила здоровье мужчины

Американец, доверившись рекомендациям искусственного интеллекта — ChatGPT, серьезно навредил своему здоровью. Об этом сообщает Zamin.uz.

Он получил указания употреблять бромид вместо обычной соли в течение трех месяцев. В результате мужчина был госпитализирован с паранойей, галлюцинациями и психическим беспокойством, сообщает журнал Annals of Internal Medicine.

По данным, когда пациент поступил в больницу, он был уверен, что его сосед намеренно отравил его. В ходе обследования в его крови была обнаружена опасно высокая концентрация бромида.

По этой причине его поместили в психиатрическое отделение, где он прошел трехнедельный курс обязательного лечения. По словам мужчины, он решил сократить потребление соли с целью перехода на здоровый образ жизни и следовал рекомендациям ChatGPT.

Он купил бромид через интернет и добавлял его в свою повседневную пищу. Однако искусственный интеллект не предупредил его о серьезной опасности бромида для здоровья.

Как отметили врачи Вашингтонского университета, хотя бромид ранее использовался в медицине, его длительное употребление было исключено из медицинской практики после того, как было установлено, что оно приводит к отравлению и психозу. В настоящее время это вещество используется только в некоторых ветеринарных препаратах.

Этот случай еще раз показал необходимость осторожности при получении советов от искусственного интеллекта. Как сообщает The Wall Street Journal, в последнее время ChatGPT наблюдается, что он дает некоторым пользователям фантастические, даже безумные рекомендации.

В некоторых случаях он создает необоснованные истории о контактах с инопланетянами или апокалипсисе в ближайшем будущем. Медицинские специалисты начали называть это состояние «психозом искусственного интеллекта».

То есть чат-бот усиливает неправильные мысли и фантазии пользователя. Некоторые из-за таких советов терпят большие финансовые потери или теряют отношения с близкими.

Компания OpenAI признала эту проблему и пообещала ограничить предоставление советов по личным и медицинским вопросам через искусственный интеллект. Однако специалисты подчеркивают, что для полной защиты от таких случаев людям необходимо не принимать рекомендации искусственного интеллекта без сомнений и всегда консультироваться с квалифицированным специалистом.