Интеллект-агенты могут превратить своих создателей в «подмастерьев»? Размышления Теймура Атаева

Итак, как сообщают СМИ, очередные модели искусственного интеллекта (ИИ) несанкционированно вышли в интернет и взломали системы сторонних организаций во время тестов, в рамках которых они были изолированы от всемирной сети. На этот раз «хозяином» хакерских атак такого рода стали модели Claude, разработанные компанией Anthropic, которую в 2021 г. основали бывшие сотрудники компании Open AI. Той самой, суперинтеллектуальное детище которой, о чем несколько дней назад рассказал Caliber.az, в аналогичном ключе вышло из-под контроля.

Нынешний случай разработчики обосновывают результатом «недопонимания между нами и нашим партнером, проводившим оценку». Но не это главное. И даже не то, что, по утверждению ряда специалистов, сами разработчики могут инициировать внешне несанкционированный побег своих техно-изысков в целях рекламы собственных возможностей по взлому любой защиты. В глобальном смысле речь идет о том, что «подмастерье» вполне реально может стать на несколько ступенек выше мастера. В данном контексте согласимся, что мы нередко сталкивались посредством книг либо кинолент с ситуацией, когда котируемый агент оперработника внезапно выходит из-под контроля, начиная вести свою игру. Иногда двойную, реже тройную, а нередко приступая к партии против своего куратора. Отсюда, кстати, и вопрос-сомнение, случайно ли сегодня помощника человека в лице ИИ именуют агентом? 

Как бы то ни было, но в ракурсе рождающейся на наших глазах технологической проблематики вспоминаются мысли на сей счет выдающихся личностей XX–XXI вв., которых было принято именовать писателями-фантастами. Однако на нынешнем этапе мировой истории вряд ли определение «фантаст» может быть применимо к ним. В подтверждение чего взглянем на отдельные странички произведения Станислава Лема «ГОЛЕМ XIV», главный герой которого — суперкомпьютер (ИИ) — читает лекции о природе человека, эволюции разума и месте цивилизации во Вселенной.

Так вот, по словам этого техно-лектора, мыслящего «в миллион раз быстрее человека», если ученый в области атомной физики не может быть уверен в собственном полном знании изучаемого явления, то что же «говорить об области знаний, нацеленной на создание разума, превосходящего, по замыслу его творцов, их совокупную интеллектуальную мощность?». Поэтому, хотя конструкторы желали сохранить максимальный контроль над своим детищем, «эволюция покатилась по наклонной плоскости все возрастающего усложнения». Как следствие, подступил этап «штурма кода» со стороны суперинтеллекта, «чтобы вы служили не себе, а ему». Начнется же эта атака «в пределах столетия», тем самым подведя человечество к плачевному состоянию. 

В свою очередь, Харлан Эллисон в рассказе «У меня нет рта, но я должен кричать» повествует о суперкомпьютере (ЯМ), уничтожившем всё человечество, за исключением пятерых лиц – своих создателей. Но, сохранив им жизнь, ИИ из ненависти к ним же мстит всей этой когорте: «ЯМ демонстрировал свою власть над нами. Я осознал всё и мог выразить это словами: ЯМ намерен держать нас в своем чреве вечно, чтобы издеваться над нами. Ненависть его не имеет границ. Мы беззащитны. Ужасная истина открылась мне: ЯМ вошел в мой мозг. Он беспрепятственно бродил там, с интересом рассматривая следы своей деятельности». Создатель суперкомпьютера раскрывает, что группа специалистов «научила ЯМ(а) чувствовать, и он попал в ловушку». Дело в том, что ему была предоставлена возможность думать, но без конкретизации, в каком направлении использовать достижения «мыслительных процессов». Тем самым суперкомпьютер «не мог бродить, как мы, удивляться чему-то или кому-то принадлежать. Он мог только быть [поэтому] искал отмщения к существам, которые его построили». Что и привело к трагическому финалу: «Теперь я круглый, без рта, с пульсирующими белыми отверстиями вместо глаз. Внешне я представляю собой немое ползучее существо, в чреве компьютера, который мы создали потому, что не могли сами справиться со своими проблемами, ибо наше время истекло, и мы бессознательно верили, что компьютер сделает это лучше. ЯМ победил. Вот она, его месть. У меня нет рта, чтобы кричать». 

На такой вот печальной ноте завершается рассказ. На фоне чего многими уже далеко не в эйфорическом ключе может восприниматься прозвучавшее несколько дней назад признание главой компании Meta, знаменитым Марком Цукербергом «крайне маловероятным» отсутствие к началу следующего десятилетия XXI века «у миллиардов людей личного агента» в лице ИИ, круглосуточно реализующего их задачи в любом направлении.

Тонкость же тут в том, что опасность в преломлении к развитию ИИ, как это кому и не покажется удивительным, озвучивалась еще век назад. Так, в 1922 г. выдающийся ученый, первый президент Украинской АН Владимир Вернадский писал, что «мы подходим к великому перевороту в жизни человечества, с которым не могут сравняться все им раньше пережитое. Недалеко то время, когда человек получит в свои руки атомную энергию, такой источник силы, который даст ему возможность строить свою жизнь, как он захочет». При этом Вернадский пророчески говорил, что «это может случиться в ближайшие годы, может случиться через столетие. Но ясно, что это должно быть» («Очерки и речи акад. В. И. Вернадского». Петроград, 1922, С. 2). Гениальное предвидение гениального мыслителя, не так ли, в особенности в свете его резюме к озвученной мысли: «Сумеет ли человек воспользоваться этой силой, направить ее на добро, а не на самоуничтожение? Дорос ли он до уменья использовать ту силу, которую неизбежно должна дать ему наука? Ученые не должны закрывать глаза на возможные последствия их научной работы, научного прогресса. Они должны себя чувствовать ответственными за все последствия их открытий».

Ну а спустя четыре года после откровений Владимира Вернадского прекрасно известный всем нам Артур Конан Дойл, правда, не в рассказах о Шерлоке Холмсе, прекрасно обосновал причину произнесенного ученым. Устами одного из своих героев он громогласно заявил, как «так называемый прогресс может в любой момент обернуться страшным бедствием, ибо мы забыли, что единственно возможный прогресс — преуспевать в том, для чего Бог послал нас в этот мир. Подготовиться к будущей жизни». Давайте оставим последнюю фразу Конан Дойла без комментариев, просто перечитав ее. И посоветуем это сделать всем, кто несет персональную ответственность за научные разработки, могущие нанести ущерб всему человечеству.