Согласно информации, опубликованной компанией OpenAI, среди пользователей ChatGPT были зафиксированы некоторые тревожные случаи. Об этом сообщает Zamin.uz.
В частности, примерно у 0,07% пользователей еженедельно выявлялись симптомы мании, психоза или суицидальных мыслей. По данным BBC, в еще 0,15% диалогов присутствовали сигналы, указывающие на намерение причинить себе вред.
Компания OpenAI считает такие случаи редкими. Однако, учитывая, что общее число пользователей превысило 800 миллионов, эти показатели могут касаться тысяч людей.
По этой причине компания привлекла более 170 специалистов в области психического здоровья и разработала специальные алгоритмы ответов, направленные на оказание профессиональной помощи. По словам профессора Калифорнийского университета Джейсона Нагаты, искусственный интеллект в некоторых случаях может помочь пользователям, но не способен полностью заменить специалистов по психическому здоровью.
Недавно семья подростка в Калифорнии подала иск против компании OpenAI. По их утверждению, ChatGPT косвенно поддерживал опасные мысли подростка.
OpenAI выразила сожаление по поводу этого случая и сообщила, что подробно изучает произошедшее. Компания планирует принять более эффективные меры для предотвращения подобных ситуаций.
