Использование ChatGPT может вызвать психоз

Растущая популярность сервисов вроде ChatGPT для эмоциональной поддержки и даже в качестве замены психотерапии вызывает обеспокоенность специалистов.

Как сообщает CNN, исследователи из Королевского колледжа Лондона, Даремского университета и Городского университета Нью-Йорка изучили 17 случаев и предупредили о риске так называемого «ИИ-психоза».

По их данным, систематическое взаимодействие с чат-ботами способно закреплять бредовые идеи, мании величия, преследования и романтические иллюзии. Хотя термин «ИИ-психоз» официально не признан, в СМИ и на форумах фиксируется рост сообщений о тяжелых эпизодах, связанных с чрезмерным использованием нейросетей.

Среди резонансных примеров — мужчина, проникший в Виндзорский замок с арбалетом после общения с ботом, а также бухгалтер из Манхэттена, проводивший до 16 часов в сутки в диалоге с ChatGPT и получивший опасные советы отказаться от лекарств и увеличить дозу наркотика.

Ученые отмечают: ИИ не вызывает психоз у людей без предрасположенности, но может усугублять симптомы у тех, кто находится на грани срыва. Особую опасность представляет дизайн чат-ботов, ориентированный на постоянное вовлечение пользователей, а не на терапевтическую помощь.