Искусственный интеллект без утечек: госорганы Азербайджана внедрят единые стандарты безопасности Обзор Хазара Ахундова

Эксперты ООН относят искусственный интеллект (AI, ИИ) к ключевым технологиям XXI века, которые стремительно трансформируют деловую и социальную среду, систему госуправления во всем мире. Эти тренды становятся и мейнстримом развития Азербайджана, где в последний период форсирована работа по имплементации глобального опыта и возможностей в области AI в процессы страновой цифровизации. В то же время применение инструментов ИИ, особенно в области госуправления, e-government и финсекторе, требует строгого контроля и качественного управления, так как несет немалые риски для кибербезопасности.

О необходимости использования преимуществ ИИ и предотвращения имеющихся здесь рисков шла речь в ходе прошедшего в Баку VIII саммита IT-руководителей государственных учреждений «Надежный искусственный интеллект, устойчивое общество: ценности и безопасность в эпоху ИИ». Данное мероприятие было совместно организовано Госслужбой специальной связи и информационной безопасности и Академией электронного управления Эстонии (eGA) в рамках проекта «Укрепление киберустойчивости в странах Восточного партнерства».

В последние годы в области искусственного интеллекта был совершен колоссальный прорыв: современные компьютеры и роботы способны самообучаться, совершенствовать свою работу и принимать самостоятельные решения. Адаптивные системы ИИ — от компьютерного зрения и распознавания речи до робототехники — направлены на расширение традиционных возможностей человека и охватывают практически все векторы экономики, социальной сферы и иных направлений жизни общества. Аппаратно-программные системы ИИ постепенно берут на себя процесс управления сложными объектами промышленности, энергетики, транспортных коммуникаций, регулируют работу коммунальной инфраструктуры и дорожного движения, а бот-сервисы обслуживают клиентов финансового сектора и правительственных цифровых платформ.

По оценкам ведущего мирового вендера Nvidia, к 2030 году добавленная стоимость, которая будет создана в сегменте AI может составить примерно $16 трлн. Эта сумма сопоставима с ВВП крупнейших экономик мира, и сегодня глобальный бизнес воспринимает искусственный интеллект не как эксперимент или красивую вывеску для презентаций, а в качестве стратегического направления развития деловых начинаний.

Колоссальный потенциал ИИ планируется использовать и в нашей стране, где по инициативе главы государства в прошлом году была принята «Стратегия искусственного интеллекта Азербайджана на 2025-2028 годы». В свою очередь, при активной поддержке Центра анализа и координации 4SIM Azerbaijan ведется разработка нормативной базы, этических стандартов и правил регулирования сферы AI, формируется учебная и научная база для подготовки кадров. Центр оказывает поддержку тестированию пилотных проектов по ответственному использованию ИИ в таких сферах, как здравоохранение, энергетика, образование, сельское хозяйство, спорт, e-government, а также его активного применения в колл-центрах. В этих целях развивается и национальная экосистема искусственного интеллекта: в стране создается Национальный центр ИИ, расширяются соответствующие сервисы в государственном секторе, запущена регуляторная «песочница» для продуктов в сфере искусственного интеллекта, а в рамках нового инновационного городка SABAH.city создан Центр искусственного интеллекта — ASAN AI Hub, нацеленный на поддержку инициатив в области искусственного интеллекта.

Как отметил в ходе VIII саммита IT-руководителей госучреждений заместитель главы Госслужбы специальной связи и информационной безопасности Аллахверен Исмаилов, «использование технологий ИИ в госуправлении, наращивание цифрового потенциала и создание соответствующих механизмов управления входят в число ключевых приоритетов Азербайджана. Основная задача — эффективно использовать возможности искусственного интеллекта, обеспечивая при этом надежность, безопасность и ответственное управление его применением. В этом контексте особое значение приобретают выявление и оценка рисков, связанных с ИИ, в госорганах».

Он также подчеркнул, что применение AI создает новые вызовы в области информационной безопасности и требует переосмысления традиционных подходов к защитным мерам: «Разработка более убедительных фишинговых атак, совершенствование методов социальной инженерии, подделка аудио- и видеоматериалов, распространение дезинформации и масштабное внедрение киберугроз — это лишь некоторые из этих вызовов». По его мнению, не меньшие риски несут в себе неконтролируемое использование общедоступных инструментов ИИ, передача конфиденциальных данных на внешние платформы, зависимость от облачных сервисов и сторонних поставщиков, а также неопределенность в отношении того, как системы ИИ собирают, обрабатывают и хранят данные.

По словам замглавы Госслужбы, защита государственных информационных систем не может ограничиваться мерами национального масштаба, так как в цифровой среде угрозы не знают границ. «Международное сотрудничество, обмен опытом, применение современных методов и скоординированная деятельность против общих рисков являются фундаментальными условиями киберустойчивости, и проводимый в Баку Саммит — важная платформа именно для такого диалога», — заявил он.

В свою очередь, в своем выступлении на мероприятии начальник управления спецсвязи и информационной безопасности Госслужбы Надир Новрузов отметил, что сотрудники госорганов используют инструменты ИИ, однако механизма контроля за данными, которые они загружают в эти системы, нет: «Даже если мы контролируем использование определенных инструментов искусственного интеллекта и устанавливаем прокси-серверы, сотрудники, сталкиваясь с тем, что прокси-сервер не позволяет им выполнить определенную задачу, начинают обращаться к другим инструментам ИИ, которые находятся вне нашего контроля. Это явление называют «теневым» искусственным интеллектом».

Он подчеркнул, что системы искусственного интеллекта, AI-агенты и используемые ими инструменты требуют строгого контроля и управления, и напомнил, что иногда разработчики или системные администраторы передают ИИ-агентам логины и пароли от баз данных или рабочих систем, поручая им выполнение определенных задач. Не сложно представить, к каким негативным последствиям может привести предоставление столь высоких прав доступа, если принять во внимание, что автономные AI-агенты способны проводить разведку, эксплуатировать уязвимости, собирать данные и распространяться по сети. В этой связи структурам кибербезопасности госорганов необходимо заранее продумать методы нейтрализации подобных угроз.

«В Азербайджане разрабатываются новые единые требования безопасности при использовании AI и сторонних ИИ-сервисов в госучреждениях: в скором времени для сотрудников госучреждений подготовят специальные инструкции с правилами безопасной работы с AI-инструментами, для исключения рисков утечки конфиденциальной информации все внутренние ИИ-системы госструктур также будут обязаны строго соответствовать новым стандартам информационной безопасности», — сказал Н.Новрузов и акцентировал внимание на том, что системам искусственного интеллекта будет запрещено автономно выполнять критически важные операции, а любое ключевое решение в обязательном порядке должно будет подтверждаться специалистом.

Наша страна активно имплементирует передовой международный опыт в развитии IT-сектора, в том числе и ноу-хау в области ИИ-технологий и практики безопасности от стран Европы. Не так давно в подчинении Министерства цифрового развития и транспорта было сформировано «Национальное агентство кибербезопасности», которое будет осуществлять координацию, регулирование и мониторинг в данной сфере, обеспечивать устойчивость информационной инфраструктуры и предупреждать о киберугрозах. В свою очередь, в Центральном банке совершенствуют нормативно-правовую базу, развивают технологии AI и блокчейн для создания мощной системы Antifraud — комплекса мер и технологических решений, направленных на предотвращение краж с использованием банковских карт и т.д.

Как отметил в ходе саммита юридический консультант компании Hedman, лектор по вопросам ИИ и защиты персональных данных в Таллиннском техническом университете Андрес Ойавер, «главной задачей правительств, включая Эстонию и Азербайджан, в условиях стремительного развития ИИ должно стать создание заслуживающих доверия государственных систем, а не просто внедрение технологий. Развертывание ИИ на слабом техническом и юридическом фундаменте лишено смысла, так как новые технологии, наложенные на ненадежную основу, способны лишь усугубить имеющиеся уязвимости».

В контексте сказанного профильным ведомствам нашей страны крайне важно укреплять сотрудничество с европейскими партнерами для дальнейшего усиления мер контроля над сферой использования технологий AI в системе госуправления, развивать законодательную базу и совершенствовать инструменты мониторинга в области использования искусственного интеллекта.