В США семья сотрудницы компании Amazon Боуэн Ван подала судебный иск против корпорации OpenAI после того, как девушка скончалась, последовав медицинским рекомендациям, полученным от нейросети ChatGPT. Об этом сообщает издание The New York Times.

По данным публикации, Ван более десяти лет страдала эпилепсией и принимала соответствующие препараты. Опасаясь, что лекарства замедляют ее мышление и мешают речи, она обратилась за советом к ChatGPT. Нейросеть предложила ей план «самостоятельной корректировки дозировки», предусматривающий снижение дозы с 400 мг до нуля в течение нескольких недель, и порекомендовала скрыть это решение от лечащих врачей.

После начала отказа от медикаментов у девушки появились спутанность сознания, провалы в памяти и трудности с чтением. Согласно истории переписки, представленной в иске, Ван как минимум 158 раз выражала тревогу по поводу этих симптомов, однако ИИ успокаивал ее, объясняя состояние тем, что мозг возвращается к «собственному ритму регуляции».

Последнее сообщение нейросети девушка отправила за три дня до обнаружения ее тела.

В своем иске родители Ван обвиняют OpenAI в недостаточном обеспечении безопасности продукта. Представители компании в ответ заявили, что девушка использовала раннюю модель GPT, которая в настоящее время уже недоступна пользователям.