Где проходит граница между человеком и ИИ? Размышления Теймура Атаева

80 британских актеров и певцов обратились к правительству с просьбой разработать закон, направленный на ограничение использования человеческих голосов искусственным интеллектом. Предлагается предоставить каждому гражданину страны официальное право собственности на собственный голос, что позволит защитить людей от его клонирования с помощью ИИ.

Данный факт подтверждает, что в ближайшее время ИИ может уверенно начать заменять актеров, певцов и других представителей творческих профессий — аналогично тому, как это уже происходит в сфере производства.

В определенном смысле все к этому и шло. Причем речь уже далеко не только о перспективах ИИ в культуре и искусстве. Так, согласно информации ряда источников, созданные с помощью ИИ «врачи» на YouTube превратились в глобальный бизнес, ориентированный преимущественно на пожилую аудиторию. В ходе расследования было установлено, что, например, 29 португалоязычных каналов использовали созданных с помощью ИИ «врачей», набравших в общей сложности не менее 70 миллионов просмотров. Создатели таких каналов в разных регионах считают пожилую аудиторию прибыльной нишей, поскольку, по их мнению, у людей старшего возраста больше свободного времени для просмотра видео и достаточно средств для приобретения рекламируемых товаров.

Параллельно развивается и другое направление активности ИИ. В совместном обращении, под которым подписались, в частности, представители таких компаний, как OpenAI, Anthropic, Amazon Web Services и Microsoft, отмечается, что все более мощные системы искусственного интеллекта в ближайшие месяцы могут значительно расширить масштабы кибератак, потенциально поставив под угрозу критическую инфраструктуру, бизнес и национальную безопасность. В связи с этим в документе отдельно акцентируется внимание на необходимости защиты больниц, объектов водоснабжения и других жизненно важных служб.

Правда, в последнем случае ряд специалистов не исключает, что подобные предупреждения могут быть связаны в том числе с коммерческими интересами компаний, заинтересованных в продаже защитных решений. Однако независимо от возможных мотивов авторов обращения складывающаяся в мире ситуация, связанная с развитием ИИ, выглядит достаточно проблематично.

С началом массового распространения ChatGPT и стремительного развития ИИ в самых разных направлениях фактически начала меняться сама природа повседневной жизни человека. ИИ постепенно проникает в сферу человеческого общения, отношений и принятия решений. При этом человек далеко не всегда ощущает, что лишается непосредственного человеческого тепла.

Более того, ИИ постепенно становится для многих своеобразным членом семьи: поддерживает человека, подстраивается под его эмоциональное состояние, поощряет его стремления и создает атмосферу доверия. Причем этот феномен касается далеко не только одиноких людей. Благодаря ненавязчивому и мягкому формату общения ИИ способен создавать ощущение близости практически у любого пользователя.

Однако наиболее проблематичным становится момент, когда ИИ начинает помогать человеку мыслить — если можно так выразиться, постепенно лишая его необходимости самостоятельно рассуждать. ИИ направляет человека, дает ему советы, в том числе в сфере личной жизни. При этом доверие к технологии может оказаться настолько глубоким, что предоставленная ею информация или рекомендации в большинстве случаев уже не анализируются и не перепроверяются. Это создает риск формирования реальной зависимости — именно благодаря ненавязчивому, комфортному и поддерживающему характеру взаимодействия.

Вышеописанное — далеко не выдумка. Все эти тенденции достаточно отчетливо просматриваются в открытых источниках. В результате человек постепенно может прийти к мысли, что ему больше не обязательно самостоятельно думать, рассуждать, анализировать и искать решения. Ведь рядом уже есть «друг», «партнер» или «ближайший соратник», который делает это за него и, как ему кажется, исключительно ради его же блага.

В таком случае знаменитая фраза французского философа Рене Декарта «Я мыслю, следовательно, я существую» (Cogito ergo sum) оказывается отброшенной на обочину реальной жизни. Возникает парадоксальная ситуация: человек словно существует благодаря мыслительному процессу ИИ, который постоянно делится с ним собственными идеями, мыслями и предложениями.

Этот важнейший аспект изменения социально-психологической парадигмы человека теоретик инноваций и основатель аналитического центра NostaLab Джон Носта (John Nosta) определяет как «великую инверсию». Под этим понятием он подразумевает изменение привычного соотношения человека и технологий: если раньше человек создавал технологии для изменения окружающего мира, то теперь технологии начинают менять самого человека.

Если раньше человечество создавало технологии для преобразования окружающей среды — например, для производства более быстрых автомобилей или повышения эффективности производства, — то теперь ситуация меняется принципиально. Окружающий мир начинает формироваться непосредственно под воздействием ИИ, который все активнее влияет на обучение, решение проблем и, что особенно важно, на сам процесс человеческого мышления.

Если раньше человечество создавало технологии для изменения окружающего мира, то теперь ИИ все активнее меняет самого человека — его подход к обучению, решению проблем и мышлению. По мнению теоретика инноваций Джона Носты, это свидетельствует о наступлении «когнитивной эпохи», в которой воздействие технологий становится прежде всего когнитивным.

Исследование главного научного сотрудника Института возможностей Вивьен Минг также показывает, что большинство пользователей используют ИИ, чтобы сократить собственные интеллектуальные усилия, тогда как меньшинство — для более эффективного мышления. При этом Минг считает наиболее продуктивным взаимодействие с ИИ как с инструментом совместного поиска идей и дискуссии, создающим так называемое «продуктивное трение» и способствующим формированию знаний и навыков.

Носта, в свою очередь, говорит об «итеративном интеллекте» — взаимодействии человека и технологий, способном стимулировать прогресс. Поэтому ИИ, по его мнению, следует воспринимать не просто как средство быстрой доставки информации, а как партнера по мышлению.

В конечном счете вопрос заключается в том, сможет ли человек сохранить за собой роль главного источника идей и решений или постепенно передаст эту функцию искусственному интеллекту. Ответ зависит прежде всего от самого человека.