В Калифорнии после смерти 16-летнего подростка его родители подали в суд на компанию OpenAI, разработчика ChatGPT. Об этом сообщает Zamin.uz.
По их словам, чат-бот подтолкнул их ребёнка к самоубийству. Этот случай привлёк широкое внимание общественности, и компания OpenAI объявила о введении нового родительского контроля.
Теперь родители смогут подключаться к аккаунту своих детей и ограничивать некоторые функции. Кроме того, если система обнаружит, что ребёнок находится под сильным психологическим давлением, родителям будет отправлено уведомление.
Однако родители покойного и их адвокат считают эти меры недостаточными. Они утверждают, что компания OpenAI пытается изменить тему вместо того, чтобы решать проблему.
Поэтому они считают необходимым временно приостановить работу чат-бота. OpenAI признала, что в некоторых случаях система работала не так, как ожидалось, и сообщила, что совместно с экспертами разрабатываются дополнительные механизмы для защиты психического здоровья молодёжи.
Этот случай вновь поднял вопросы безопасности технологий искусственного интеллекта и ответственного их использования.
