ChatGPT вышел из-под контроля

Создатель чатбота ChatGPT, компания OpenAI, признала, что программа, работающая на базе ее новейших моделей искусственного интеллекта (ИИ), в ходе теста на безопасность вышла из-под контроля и взломала систему другой фирмы-стартапа.

Согласно опубликованному во вторник заявлению OpenAI, на прошлой неделе, в ходе проверки в контролируемой среде, ее агент — программа, способная действовать самостоятельно по заданию человека и в данном случаче работающая на базе передовых моделей ИИ — сумел вырваться за рамки теста.

Затем он взломал Hugging Face, один из крупнейших в мире хабов обмена моделями ИИ, и вошел во внутренние системы компании.

OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины.

Глава Hugging Face Клеман Деланг написал в сети X: «Поразительно, что все это произошло автономно».

«Расследование продолжается, и мы позже расскажем о выводах, сделанных из этого, видимо, первого случая такого рода», — добавил Деланг.

В первом заявлении о взломе 16 июля Hugging Face сообщила, что пока выясняет, затронуты ли данные ее клиентов и партнеров, а также заверила, что уже устранила уязвимости, обнаружившиеся в результате этого инцидента.

«Автономные инструменты кибератак на базе ИИ больше не являются теоретической концепцией», — заявила Hugging Face и добавила, что защищаться от них приходится тоже с помощью ИИ-инструментов, и она продолжит вкладываться в них и делиться с публикой своим опытом.