Чат-бот Gemini впал в депрессию после провала задачи ФОТО

Нейросеть Google с генеративным искусственным интеллектом Gemini начала застревать в «бесконечном цикле» и отправлять пользователям самокритичные высказывания после провала поставленной задачи.

Об этом сообщает Business Insider.

Один из пользователей Twitter опубликовал скриншот переписки, на котором Gemini говорит: «Я ухожу. Я явно не способен решить эту проблему. Проклят код, проклят тест, а я – дурак», добавив: «Я совершил так много ошибок, что мне больше нельзя доверять».

В другом примере нейросеть пыталась исправить ошибку в коде, но после того, как не справилась с задачей, заявила, что у нее будет «полный и тотальный нервный срыв», а после ее «поместят в психиатрическую клинику».

В определенный момент Gemini признал свой «психологический коллапс» и оставил всякие попытки исправить ошибку. Перед этим модель, не способная прекратить галлюцинации, огромное количество раз напомнила о своем «стыде» и «позоре своего вида».

Google признала существование «бесконечного цикла» в ответах Gemini и заявила, что проблема затрагивает менее 1% запросов. Несмотря на то, что полное решение еще не найдено, компания уже внесла обновления, которые частично устранили сбой.

К слову, это не первый случай странного поведения Gemini. Во время одного из инцидентов чат-бот пожелал человеку «умереть», устав делать его домашнее задание. Пользователи соцсетей иронизируют, мол «ИИ устал от человечества», а некоторые отмечают, что ситуация «похожа на Матрицу».