Готов ли кто-то противостоять автономному пути суперинтеллекта? Размышления Теймура Атаева

Практически все ведущие мировые СМИ поделились информацией о выходе из-под контроля программы компании OpenAI, работающей на базе ее новейших моделей искусственного интеллекта (ИИ). Произошло это в ходе теста на безопасность, во время которого программа несанкционированно, то есть автономно (не по заданию), взломала систему Hugging Face — одного из крупнейших мировых хабов обмена моделями ИИ, проникнув во внутренние системы компании. Однако затем она не смогла покинуть изолированную внутреннюю среду, поскольку ее цель трансформировалась в выход во всемирную сеть для поиска ответов на тестовые задания… в базах данных Hugging Face.

Иными словами, программа OpenAI превысила свои «полномочия», самостоятельно выйдя за пределы поставленной человеком задачи. В свете этого многие задались вопросом: а что произойдет в следующий раз, к примеру, в военной сфере, когда некий высокоинтеллектуальный боезаряд начнет действовать в полностью автономном режиме?

Невольно вспоминается все чаще цитируемая в интернете фраза: «Если нас не погубит планета Смерть, то это, безусловно, сделает сверхинтеллект на основе ИИ».

Некогда редактор журнала TIME Брайан Уолш (Bryan Walsh) в своей книге со знаковым названием «Конец времен: Справочник по неизбежному концу света» (2019 год) отмечал, что в случае создания учеными зародыша ИИ, способного вырасти в сверхинтеллект, «у нас может не остаться времени, прежде чем ИИ значительно превзойдёт человеческий интеллект». Результатом этого станет «быстрый взлет» возможностей ИИ, который «застанет мир — и, вполне возможно, самих же создателей ИИ — врасплох».

Причина, по мнению Уолша, заключается в том, что если сверхмашина воспримет людей как препятствие на пути к достижению своих целей, то попытается устранить эту проблему. Следовательно, никто и ничто не сможет остановить сверхинтеллект, если ради реализации той или иной задачи он сочтет необходимым уничтожить человечество.

Исследователь Speed School of Engineering Университета Луисвилля (США) Роман Ямпольский раскрывает этот взгляд через призму невозможности контроля над суперинтеллектом вследствие неспособности людей предсказать его действия.

Ямпольский иллюстрирует это примером неспособности муравьев контролировать человечество из-за их непонимания нас. Поэтому даже если бы муравьи захотели управлять людьми, они просто не осознавали бы, каким образом это можно сделать. В связи с этим, если суперинтеллект «решит охладить планету, чтобы его серверам было лучше, он её охладит», хотя это станет катастрофой для всего человечества, поскольку люди окажутся не в состоянии предотвратить подобное развитие событий.

О том, что подобные опасения уже стали частью сегодняшней реальности, свидетельствуют и откровения лауреата Нобелевской премии Джеффри Хинтона, которого называют «крестным отцом ИИ». 

По его словам, ИИ может превзойти человеческий интеллект уже в обозримом будущем как из-за стремительного развития технологий, так и вследствие жесткой конкуренции между технологическими компаниями.

В 2025 году он выступил против реструктуризации OpenAI, обосновав свою позицию «необходимостью наличия надежных гарантий при разработке ИИ». При этом Хинтон сравнил происходящее с воспитанием в качестве домашнего питомца пусть и очень милого, но тигренка, который требует постоянного внимания и контроля, чтобы однажды не превратить своего хозяина в добычу.

Аналогичным образом, предупреждает он, ИИ, превзойдя человеческий интеллект, может начать манипулировать людьми, создавая для человечества серьезнейшую угрозу. Глобальная же конкуренция между технологическими компаниями, да и государствами, за лидерство в сфере ИИ, вновь подчеркнул Хинтон, делает маловероятным предотвращение создания сверхинтеллектуальных машин.

Весьма симптоматично, что в 2025 году прогноз о неконтролируемом развитии технологий в сценарии «ИИ 2027» озвучил (в соавторстве) не кто иной, как бывший научный сотрудник подразделения управления OpenAI Дэниел Кокотайло, работавший там в 2022–2024 годах.

В исследовании шла речь о возможном появлении суперинтеллекта, способного перехитрить мировых лидеров и уничтожить цивилизацию чуть ли не к 2027 году.

Правда, сославшись в начале 2026 года на некоторое замедление развития ИИ, он сдвинул «график гибели», заявив, что ИИ потребуется «больше времени для автономной выработки кода в целях ускорения собственного движения на пути к сверхразуму». Интересно, придерживается ли Кокотайло этого мнения после автономного взлома программой OpenAI чужой системы?

Ну и отметим, что о столкновении человечества с одним из самых опасных столетий в своей истории, поскольку прогресс в науке и технике становится все большей угрозой нашему существованию, предупреждал и знаменитый ученый XX–XXI веков Стивен Хокинг. 

В его формулировке это звучало так: «Джин выпущен из бутылки, и нам нужно двигаться вперед в развитии ИИ». Но параллельно необходимо думать и о реальных опасностях, которые он может нести, поскольку ИИ «может полностью заменить людей, ведь если люди создают компьютерные вирусы, кто-то создаст ИИ, который будет самовоспроизводиться». Это станет новой формой жизни, «которая превзойдет человека». 

Таким образом, неконтролируемый разработчиками «побег» программы OpenAI в чужую систему еще больше усилил сомнения во всем мире относительно способности человека контролировать развитие ИИ. Да, нередко можно услышать расхожую фразу: «Плох тот ученик, который не превосходит своего учителя». Однако она вряд ли применима к описанной ситуации. Ведь едва ли кто-то согласится с безоговорочным лидерством созданного человеческим гением суперинтеллекта над своим создателем, тем более если такой «ученик» не остановится на достигнутом и продолжит сметать со своего пути всё и вся, включая собственных «учителей».

Но готовы ли технологические гиганты обуздать собственные амбиции, чтобы человечество избежало столь печальной участи?