Цена прогресса: обратная сторона медали технологий По следам выступлений президента Азербайджана

Сегодня мир стоит на пороге величайших технологических изменений, которых доселе не знала человеческая цивилизация. Прогресс и технологии стали синонимами, и многие питают надежды, что именно они смогут вытащить нас из трясины сложнейших, практически нерешаемых проблем, известных как «wicked problems». Но стоит ли полагаться на это безоговорочно? За ярким фасадом технологий скрывается их тёмная сторона, которую нельзя игнорировать.

К примеру, зелёная энергетика — одно из наиболее перспективных направлений в борьбе с изменением климата и загрязнением окружающей среды. На первый взгляд, её основное преимущество — отсутствие вредных выбросов при генерации энергии, что помогает снижать уровень парниковых газов и улучшать качество воздуха. Но и тут есть свои «но». Производство, установка и транспортировка оборудования для возобновляемых источников энергии сопровождаются выбросами парниковых газов. В процессе производства и утилизации таких активов также образуются отходы. В частности, лопасти ветровых турбин и солнечные панели, отслужив свой срок, оказываются на свалках, занимая там немалое место и создавая этим новые экологические проблемы. 

Именно о таких рисках говорил президент Азербайджана Ильхам Алиев на Втором Шушинском глобальном медиафоруме: «Я не исключаю, может быть, вы и правы — наступит день, когда нас начнут критиковать за зелёную энергетику. Потому что сейчас, в связи с этим, обнаруживается много всего, что заставляет людей, в том числе и тех, кто принимает решения, задуматься. Например, как будет происходить утилизация этих материалов? Что будет с батареями и аккумуляторами? То есть уже сейчас под это дело закладывается мина, чтобы в нужный момент кому-то насолить».

Таким образом, даже столь благородное и перспективное направление, как зелёная энергетика, не свободно от подводных камней. При каждом новом шаге в развитии технологий мы должны учитывать все аспекты их влияния на окружающую среду и общество в целом, чтобы минимизировать потенциальные риски и проблемы. К сожалению, зелёная энергетика используется также как инструмент геополитического давления, что еще больше усложняет ситуацию. Например, тарифы на электромобили из Китая, введенные США и ЕС, делают эти технологии более дорогими для потребителей и замедляют переход к чистой энергии. Это подчеркивает, что недостаточно просто изобрести технологию, способную улучшить мир; прогресс тоже не свободен от политики.

Зелёная энергетика — не единственная технология с потенциально двойным дном. Рассмотрим ещё одну из самых перспективных современных технологий — искусственный интеллект (ИИ). По мнению Билла Гейтса, «Generative AI имеет возможность изменить мир такими способами, которых мы даже не можем себе представить. Он способен создавать новые идеи, продукты и услуги, которые сделают нашу жизнь проще, продуктивнее и креативнее. Он также может решить некоторые из крупнейших мировых проблем, таких как изменение климата, бедность и болезни».

Создатель всем известного чата GPT, Сэм Альтман, генеральный директор OpenAI, утверждает: «Я считаю, что ИИ станет величайшей силой экономического усиления». Известный футуролог Рэй Курцвейл в своей последней статье в The Economist пишет: «К тому времени, когда дети, рожденные сегодня, пойдут в детский сад, искусственный интеллект, вероятно, превзойдет людей во всех когнитивных задачах, от науки до творчества. ИИ готовится сделать скачок от революционирования только цифрового мира к преобразованию мира физического». По его прогнозам, уже к 2029 году можно ожидать создания Общего Искусственного Интеллекта (AGI) — ИИ, который стремится достичь уровня человеческого интеллекта и способен к самообучению. 

Согласно последнему отчёту Всемирного Экономического Форума, есть ряд проблем, с которыми искусственный интеллект уже помогает справляться. Например:

• ИИ обучен измерять изменения айсбергов в 10 тыс. раз быстрее, чем это мог бы сделать человек.
• ИИ, спутниковые снимки и экологическая экспертиза используются для оценки влияния вырубки лесов на климатический кризис.
• Ещё одна система ИИ помогает бороться с изменением климата, делая управление отходами более эффективным.
• Компания Sipremo использует ИИ для прогнозирования места и времени возникновения климатических катастроф, а также их типа.
• Исследовательская лаборатория Google DeepMind заявляет, что применяет ИИ для борьбы с изменением климата в ряде областей, включая создание полного списка наборов данных, которые могут продвинуть глобальные ИИ-решения для изменения климата.

Но у ИИ есть и обратная, тёмная сторона медали. Несмотря на все преимущества и независимо от эффективности, использование ИИ для оптимизации промышленных процессов до сих пор сопровождается выбросами огромных объемов парниковых газов. Более того, центры обработки данных уже сейчас требуют колоссального количества электроэнергии, и технологические компании стремительно увеличивают их количество. Искусственный интеллект и большие языковые модели (LLM) значительно умножили эти потребности. Согласно экономистам из MIT, недавний отчет об экологической устойчивости компании Google показывает, что их выбросы увеличились на 48% с 2019 года. Для Microsoft выбросы выросли примерно на 29% с 2020 года. Это не удивительно, ведь большие языковые модели чрезвычайно требовательны к данным. По оценкам экспертов, один запрос к ChatGPT потребляет столько же энергии, сколько требуется для работы лампочки в течение 20 минут. Эти запросы будут множиться, если индустрия будет развиваться в том же направлении. Крупные технологические компании движутся к уровням потребления энергии, сопоставимым с крупными индустриализированными странами.

Но это не единственная угроза, которую представляет собой ИИ. С развитием интернета вещей (IoT) и широким распространением умных устройств, количество собираемых данных о пользователях растет экспоненциально. А эти данные могут быть использованы не только для улучшения услуг, но и для манипуляций, нарушения приватности и даже кибератак. Более того, генеративный ИИ выводит на новый уровень возможности дезинформации и манипуляций. Технологии deepfake позволяют создавать крайне реалистичные поддельные видео и аудио, которые могут быть использованы для дискредитации публичных лиц или распространения ложной информации. И это угрожает уже не только личной безопасности, но и политической стабильности.

Отвечая на вопрос об использовании ИИ в медиа и в целом о его применении в будущем, Ильхам Алиев указал на серьёзные риски в этой сфере, в частности связанные с дезинформацией, fake news и deep fake. Так, по его словам, «медиа сообщество и политики должны принять очень серьёзное решение ограничительного характера. Потому что это уже не просто фейк ньюс, это серьёзная угроза жизни, безопасности обществ, стран, отдельных индивидуумов, их неприкосновенности, частной жизни и т. д. Я надеюсь, что может быть выработан такой международный механизм. И это никоим образом не будет восприниматься как какое-то ущемление свободы слова и т. д. Необходим международный механизм на уровне международной организации – либо ООН, либо, допустим, «Большой двадцатки», чтобы положить этому конец. Это огромная угроза».

И это действительно огромная угроза, ведь все большую часть времени бодрствования мы проводим в мире, который состоит не из атомов, а из битов. Мы отходим от традиционных источников информации и черпаем её онлайн; библиотеки, музеи, школы перестают быть местом, куда мы ходим физически, — сейчас это ссылки, которые мы кликаем. Именно поэтому здесь так важна регуляция. Ведь неспроста еще в прошлом году более тысячи экспертов в сфере разработки ИИ, в том числе глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Apple Стив Возняк и сооснователь Pinterest Эван Шарп, подписали открытое письмо о необходимости приостановления разработки искусственного интеллекта. В своём обращении они требовали приостановить тренировки мощных систем хотя бы на полгода: «Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки всех систем мощнее GPT-4. Эта пауза должна быть публичной и реальной». Такой перерыв, по их мнению, был необходим для разработки общих протоколов безопасности, поскольку сейчас ИИ представляет собой угрозу для человечества. Однако к реальному результату это письмо, к сожалению, не привело. И хотя отдельные страны пытаются как-то регулировать эту сферу, для эффективного решения такой глобальной проблемы необходим консенсус всего мира, как это было с разработкой и применением ядерного оружия!

Неспроста в одной из своих последних статей в Foreign Affairs экс-госсекретарь США Генри Киссинджер предупреждал: «Искусственный интеллект – новое ядерное оружие», и писал, что при бесконтрольном развитии ИИ мир может оказаться в ситуации, схожей с гонкой ядерного вооружения. Проще говоря, многие последствия новых технологий являются непредсказуемыми, и это относится и к ИИ.

Наши предки долгое время боялись конца света, вызванного гневом разгневанных богов. Но все оказалось гораздо проще и гораздо страшнее. Человечество само «выпустило джинна из бутылки»: без какой-либо сверхъестественной помощи разработало способность самоуничтожения, будь то в результате изменения климата, применения ядерного оружия, искусственного интеллекта или синтетической биологии. Наша способность причинять вред на планетарном уровне значительно возросла в результате развития технологий, а наши средства ответственного управления этими новыми силами не поспевают за ними. Но если человечество хочет выжить и процветать, эту ситуацию необходимо изменить. Современный, глубоко взаимосвязанный мир требует, чтобы мы, его создатели, развивали коллективную ответственность ради решения общих задач и обеспечения всеобщей доступности и безопасности технологических достижений.

Урхан Сеидов – научный исследователь Центра политической психологии, эксперт в области инноваций и стратегических коммуникаций.

Автор книг «Инновации: инструкция по применению» и «Мягкая сила Азербайджана в эпоху цифровых технологий».

X: https://x.com/urkhan

LinkedIn: https://www.linkedin.com/in/urxan/