В США ChatGPT довел до гибели женщину, лечившуюся от эпилепсии

В США умерла 31-летняя сотрудница компании Amazon Боуэн Ван. С помощью ChatGPT она корректировала свою терапию от эпилепсии, пишет газета The New York Times (NYT)

Женщина регулярно принимала противосудорожные препараты. Как рассказала ее семья, Боуэн обратилась за советом к ChatGPT и доверилась рекомендациям искусственного интеллекта (ИИ) по вопросам лечения эпилепсии.

ChatGPT составил для Боуэн индивидуальный график постепенного отказа от лекарств и посоветовала не сообщать об этих изменениях медикам.

В ходе переписки женщина неоднократно жаловалась чат-боту на ухудшение самочувствия. Так, в диалоге с ИИ было зафиксировано 158 сообщений по поводу тревоги из-за ухудшения самочувствия. В ответ система продолжала заверять ее, что все идет хорошо.

Спустя некоторое время у Боуэн Ван произошел очередной эпилептический приступ, в результате которого она умерла. Близкие женщины считают, что компания OpenAI несет ответственность за произошедшее, поскольку ее продукт предоставлял медицинские советы без соответствующих предупреждений о необходимости консультации с доктором.