ИИ-гонка США и Китая: призыв найти баланс между скоростью и безопасностью Обзор Теймура Атаева

В нашем последнем материале о развитии искусственного интеллекта (ИИ) мы приводили предупреждение шведского философа Ника Бострома о возможном появлении в результате «интеллектуального взрыва» сверхразума, способного представлять «экзистенциальную угрозу» человечеству.

И вот теперь это предупреждение получает новое звучание. 12 сентября 2026 года глава американской компании Anthropic Дарио Амодеи (Dario Amodei), ранее занимавший пост вице-президента OpenAI, опубликовал статью «Мы должны контролировать темп развития передовых технологий», призвав замедлить развитие ИИ ради снижения связанных с ним рисков.

В ней Амодеи, наряду с уверенностью в способности ИИ кардинально улучшить качество жизни людей, отмечает и серьезные риски, связанные с его развитием: от потери контроля над технологическими системами и их использования для кибератак и биотерроризма до масштабных экономических потрясений. Последнее ученый называет «гонкой к худшему».

Anthropic стремится найти баланс между преимуществами и рисками ИИ, сделав безопасность частью конкуренции между технологическими компаниями — «гонкой к лучшему», где «рассудительность оказывается выше прибыли». Однако, по мнению Амодеи, для обеспечения безопасности необходимо «замедлить темпы совершенствования возможностей моделей ИИ», поскольку они уже способны создавать системы следующего поколения, которые могут «опередить наши возможности управлять ими».

В подтверждение этого Амодеи приводит пример о выходе из-под контроля программы OpenAI, работающей на базе ее новейших моделей ИИ, в результате чего была взломана система Hugging Face — одного из крупнейших мировых хабов обмена моделями ИИ.

Амодеи подчеркивает важность регулирования темпов развития передовых технологий: ИИ должен развиваться достаточно быстро, чтобы приносить пользу, но при этом безопасно и предсказуемо. Anthropic, взяв на себя такое обязательство, призывает правительства потребовать аналогичных шагов и от других лидеров отрасли.

В дальнейшем, по его мнению, необходима координация на уровне индустрии и государств для выработки общих стандартов безопасности и ограничений на неконтролируемое развитие ИИ. Амодеи считает, что такой подход позволит снизить риск серьезных сбоев и катастрофических последствий, не жертвуя коммерческими преимуществами и лидерством США в сфере ИИ. При этом он настаивает на участии общества в определении правил использования технологии и принятии соответствующих законов.

Одновременно Амодеи связывает темпы развития ИИ с геополитической конкуренцией, предупреждая, что чрезмерное замедление американских компаний может позволить связанным с Коммунистической партией Китая (КПК) проектам вырваться вперед и создать угрозу национальной безопасности.

В то же время он признает, что глобальное регулирование потребует сотрудничества с Китаем, обладающим «наиболее развитыми возможностями в сфере ИИ». По мнению Амодеи, такое взаимодействие даст демократическим странам больше времени для регулирования темпов разработки передовых систем.

Ряд экспертов считает, что столь явно политизированный подход может свидетельствовать о предварительном обсуждении статьи в правительственных кругах США. Некоторые аналитики также считают, что документ был подготовлен заранее и опубликован в подходящий информационный момент.

В свете этого под особым углом зрения рассматривается информация, зафиксированная в отчете Anthropic от 10 сентября, об обвинении китайской стороны «в попытках взлома с целью получения доступа к возможностям Claude». В документе также отмечалось, что компания пресекла «попытки использования моделей Claude для разработки биологического оружия и осуществления кибершпионажа против Украины (в рамках кампании, предположительно связанной с Россией)».

Параллельно компания сообщила о наличии некой «группы злоумышленников на севере Йемена», использовавших Claude в целях разработки программного обеспечения для управляемой ракеты, планируемой баллистической ракеты с дальностью полета более 2000 км и варианта ракеты, оснащенного гиперзвуковым планирующим боевым блоком. Информационное агентство Reuters обратило внимание на обнародование этой информации на фоне очередного раунда активизации хуситов.

Вышеприведенный фактаж из отчета Anthropic, как считают отдельные наблюдатели, подтверждает политизированный оттенок опубликованной в блоге главы этой компании статьи. С другой стороны, ряд специалистов считает неслучайным обнародование Амодеи своего взгляда спустя четыре дня после открытого объявления об уходе из технологической отрасли Джейкоба Коксона, известного по своей профессиональной деятельности сначала в OpenAI, а затем в Anthropic. Свой уход из этой компании он обосновал нежеланием участвовать «в общеотраслевой гонке по созданию систем ИИ, способных к самосовершенствованию», вследствие проявляющегося у него беспокойства из-за возможности их выхода из-под контроля, что может поспособствовать уничтожению человечества.

Таким образом, как обращают внимание аналитики, аналогично всем важнейшим письмам, документам и заявлениям от имени тех или иных компаний и организаций общемирового уровня, статья Амодеи также стала достоянием мировой общественности «в нужное время и в нужный час», тем более что она увидела свет параллельно с распространением Anthropic собственного отчета. Здесь тебе и «китайский след», и ближневосточный крен с конкретной направленностью.

Как бы то ни было, свой взгляд от 12 сентября Амодеи резюмирует акцентом на том, что предложенные им меры для обеспечения безопасных темпов развития передовых технологий «реализовать будет непросто». В связи с этим СМИ уже сообщили о поддержке позиции Амодеи Илоном Маском и главой OpenAI Сэмом Альтманом, озвучившим готовность предоставить независимым экспертам доступ к работе возглавляемой им компании.

Одна из тонкостей во всем этом заключается в том, что рассматриваемая статья появилась спустя чуть более 10 дней после представления Anthropic идентичных моделей (но с разными уровнями систем защиты) Claude Fable 5.1 и Claude Mythos 5.1, описанных как «наиболее передовые в мире для написания кода и интеллектуальной работы», с предусмотренной для них исследовательской возможностью «заглянуть в будущее и увидеть, какой вклад ИИ-модели внесут в научный прогресс».

Данная ситуация уверенно и без каких-либо «но» свидетельствует о том, что на нынешнем историческом этапе геополитическая борьба набирает значительные обороты на технологическом поле, важнейшим игроком на котором становится ИИ.