Новрузов о рисках при использовании ИИ-агентов

Системы искусственного интеллекта, ИИ-агенты и используемые ими инструменты требуют строгого контроля и управления.

Как сообщает Report, об этом заявил начальник управления Государственной службы специальной связи и информационной безопасности Азербайджана Надир Новрузов на VIII Саммите руководителей ИТ-подразделений государственных органов в Баку.

По его словам, ИИ-агентам следует предоставлять строго минимальный уровень доступа, необходимый для выполнения задач.

«Иногда разработчики или системные администраторы передают ИИ-агентам логины и пароли от баз данных или рабочих систем, поручая им выполнение определенных задач. Однако насколько правильно агент их выполняет и не допускает ли ошибок? К каким последствиям может привести предоставление ему столь высоких прав доступа? На эти вопросы необходимо обращать особое внимание», — подчеркнул Н. Новрузов.

Представитель госслужбы также отметил, что по мере развития технологий автономные ИИ-агенты уже способны проводить разведку, эксплуатировать уязвимости, собирать данные и распространяться по сети.

«В условиях подобного рода угроз руководителям подразделений информационной безопасности государственных органов необходимо заранее продумать методы их нейтрализации. На фоне стремительного развития технологий управление рисками и принятие превентивных мер становятся одним из ключевых требований современности», — заявил он.