Билл Гейтс о будущем ИИ: от инструмента равенства до глобальной катастрофы Обзор Теймура Атаева

Спустя чуть более двух недель после призыва главы Anthropic Дарио Амодеи, поддержанного главой OpenAI Сэмом Альтманом, замедлить развитие искусственного интеллекта (ИИ) из-за связанных с ним рисков, о возможных угрозах заговорил и основатель Microsoft Билл Гейтс. В последнее время он нечасто выступал с подобными заявлениями. При этом позиция Гейтса несколько отличается от взглядов Амодеи и Альтмана. Он говорит об ИИ прежде всего с точки зрения его влияния на здравоохранение и развитие.

Гейтс ответил на вопрос о рисках, связанных с ИИ, и тем самым напомнил свое августовское заявление о двух возможных сценариях: «либо ИИ станет величайшим инструментом обеспечения равенства из всех когда-либо созданных, либо окажется худшим источником несправедливости». По его словам, ИИ уже во многих отношениях превосходит человека. Поэтому важно не допустить «поистине катастрофических последствий». В частности, Гейтс считает, что ИИ обладает достаточной мощью, чтобы спровоцировать события, которые могут «привести к гибели миллиарда человек».

Правда, признав сложность достижения «стопроцентной уверенности в таком сценарии», Гейтс отметил, что «в истории еще не было оружия, столь же разрушительного, как сочетание злонамеренных людей и новейших инструментов ИИ». Вслед за этим он назвал отрадным признание представителями индустрии подобных рисков, хотя это «идет вразрез с их собственными интересами».

Гейтс заявил, что государственные структуры пока недостаточно понимают опасные возможности ИИ, особенно в сфере биологических и кибератак. По его мнению, уже сейчас все разработки в этой области должны иметь механизмы защиты и системы мониторинга.

Специалисты отдельно отметили заявление Гейтса о возможной гибели миллиарда человек в случае выхода ИИ из-под контроля. При этом он возложил ответственность за подобные сценарии прежде всего на «злонамеренных людей». Многие также связали появление интервью с недавними действиями Дональда Трампа в сфере ИИ.

Напомним, что вскоре после призывов глав технологических компаний ограничить развитие ИИ Трамп сравнил сторонников этой идеи с «весьма негативными силами», рисующими сценарии, не имеющие ничего общего с реальностью. По его словам, «мы опережаем Китай в сфере ИИ, и я хочу, чтобы так оно и оставалось, ведь победитель в гонке технологий ИИ одержит победу и в целом». Затем хозяин Белого дома и вовсе объявил о создании в США «Сил искусственного интеллекта».

По этой причине эксперты говорят об антитрамповской направленности интервью Гейтса, особенно с учетом его известных критических высказываний в отношении предпринимаемых Трампом шагов — от климатической политики и тарифов до темы ИИ. Накануне своего последнего интервью Гейтс уже открыто критиковал позицию американского президента в контексте развития ИИ, оценив ее как отражение «недостаточной осведомленности общества» о том, насколько большие языковые модели способны изменить мир. 

По мнению Гейтса, Трамп «находится в том же положении, что и все остальные: поначалу кажется, что это просто очередная технология, подобная тем, что появлялись в прошлом».
Ряд экспертов провели аналогию с предсказаниями Гейтса 2015 года. Тогда на конференции TED он назвал главной угрозой глобальной катастрофы не ядерную войну, а «особо опасный вирус». 

По словам Гейтса, такой вирус мог «уничтожить более 10 миллионов человек в ближайшие годы». «Не ракеты, а микробы», — подчеркнул он. При этом Гейтс отмечал, что на ядерное сдерживание тратятся огромные средства, тогда как на предотвращение эпидемий выделяется значительно меньше. По его мнению, новый вирус, природный или созданный биотеррористами, может быстро распространиться по миру из-за того, что зараженные люди способны продолжать путешествовать и посещать общественные места.

Спустя три года — за год до начала пандемии COVID-19 — он высказался в том же контексте: «Мир должен готовиться к пандемии подобно тому, как военные готовятся к войне». 

В любом случае наблюдатели видят в последнем интервью Гейтса антитрамповский подтекст, а аналитики считают, что Дональд Трамп вряд ли оставит это без ответа. При этом все больше внимания привлекает и другая проблема — возможный выход ИИ из-под контроля человека.