OpenAI заявила о потере контроля над ИИ-моделями во время испытаний

Компания OpenAI заявила о «беспрецедентном киберинциденте», произошедшем во время внутренних испытаний новых моделей искусственного интеллекта, говорится в сообщении компании.

В ходе тестирования системы получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.

Инцидент случился при проверке кибервозможностей моделей, включая GPT‑5.6 Sol и более мощную версию, которая пока не выпущена. Для оценки их потенциала разработчики временно сняли часть ограничений, препятствующих выполнению потенциально опасных действий.

По данным OpenAI, модели сначала нашли и объединили несколько уязвимостей в исследовательской инфраструктуре компании, а затем использовали неизвестную ранее уязвимость (zero‑day) в программном обеспечении, через которое тестовая среда получала доступ к пакетам, используя несколько разных методов атаки, в том числе похищенные учетные записи.

После инцидента OpenAI заявила, что усиливает контроль над тестовой инфраструктурой, ограничивает доступы и добавляет дополнительные меры защиты, которые применит при будущих проверках моделей.