AI & Society: Долгое общение с ИИ может делать человека роботизированным

Постоянное общение с ИИ-ботами может постепенно менять стиль поведения человека: люди начинают подстраиваться под алгоритмы, перенимая более предсказуемую и стандартизированную манеру общения. К такому выводу пришла международная группа исследователей. Результаты исследования опубликованы в журнале AI & Society.

Авторы предполагают, что эффект возникает из-за многократного взаимодействия с ИИ. Современные чат-боты способны поддерживать естественный диалог, запоминать информацию о пользователе и подстраиваться под его запросы. В результате граница между общением с машиной и человеком становится менее заметной.

Исследователи называют предполагаемый процесс «роботоподобной человечностью». По их мнению, влияние может работать в обе стороны: ИИ становится все более похожим на человека, а человек — на ИИ.

Механизм ученые связывают с естественной склонностью людей зеркально отражать поведение собеседника. Если пользователь регулярно общается с системой, которая предпочитает четкие формулировки, предсказуемые реакции и определенные модели диалога, он может постепенно адаптировать собственную манеру общения под эти особенности.

Авторы считают, что особенно важную роль играет алгоритмическая обратная связь. В отличие от общения с людьми, реакции ИИ не случайны и формируются системой на основе данных и заданных алгоритмов. Пользователь может бессознательно сглаживать свои индивидуальные особенности, чтобы получать от системы более удобные и эффективные ответы.

«Потребитель действует, робот реагирует, и со временем, благодаря многократному воздействию, потребитель усваивает этот обмен», — отмечает Сельчен Озтюркджан из Университета Линнея.

При этом работа пока остается гипотезой: ученые не проводили долгосрочных экспериментов, которые подтвердили бы, что общение с ИИ действительно меняет поведение людей таким образом. Авторы считают, что эффект необходимо проверить в исследованиях с реальными пользователями.

Если гипотеза подтвердится, массовое распространение ИИ в службах поддержки, образовании и других сферах может означать, что технологии будут не только адаптироваться к человеку, но и постепенно адаптировать человека под себя.