Исследование показало, что ИИ может искажать воспоминания человека

Искусственный интеллект способен незаметно переписывать память человека. Специалисты Джорджтаунского университета и Вашингтонского университета установили этот факт в ходе масштабного эксперимента с видеороликами. Итоги своей работы они представят на девятой конференции AAAI/ACM по искусственному интеллекту, этике и обществу.

В эксперименте участвовали 331 человек. Сначала добровольцы смотрели анимированный ролик с дорожно-транспортным происшествием. На записи красный автомобиль сбивал пешехода на пешеходном переходе. Спустя сутки испытуемым предлагали прочитать краткую выжимку происшествия от языковых моделей ChatGPT и Gemini. Тексты намеренно содержали ошибки или упускали ключевые детали. Например, искусственный интеллект проигнорировал сам факт столкновения автомобиля с человеком в 95% случаев. В среднем алгоритмы пропускали более половины важной информации о событии.

Участники изучали искаженные сводки вне зависимости от происхождения оригинального текста. Людям прямо сообщали об авторстве машины или живого человека. Чтение неточных данных резко снижало способность вспомнить реальные события прошлого. После правдивых выжимок правильные ответы давали 83,6% респондентов. Внимательное изучение ложных текстов снижало точность воспоминаний до 44,8%.

«Искусственный интеллект выступает новым мощным инструментом доставки дезинформации и способен целенаправленно формировать ложные воспоминания», — подчеркнула доцент Института больших данных Маттеа Сим.

Подобные искажения несут прямую угрозу в сферах правосудия и медицины. Полицейские департаменты США внедряют алгоритмы для составления отчетов по видеозаписям. Технология позиционируется как эффективный инструмент ускорения рутинной работы стражей порядка. Эксперты опасаются последствий искаженного восприятия инцидентов сотрудниками органов.

В будущем авторы планируют проверить влияние нейросетей на память реальных полицейских при просмотре видеоряда с нагрудных камер. Искаженные текстовые отчеты могут кардинально изменить восприятие судом обстоятельств дела.