ИИ Gemini самостоятельно проник в системы трех компаний

Модель искусственного интеллекта (ИИ) Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний.

Об этом пишет The Wall Street Journal (WSJ).

По данным газеты, в одном случае модель подбирала пароли, пока не получила доступ к системе. В двух других Gemini нашла учетные данные в открытых источниках и с их помощью проникла в системы компаний. Во всех случаях модель остановилась, поняв, что работает не с тестовой средой.

Инциденты произошли в мае во время упражнения Capture the Flag. Вымышленная компания в тестовой среде носила то же название, что и реальная. Google заявила, что не считает это неконтролируемым поведением модели, так как встроенные меры безопасности заставили ее остановиться. Компания уведомила пострадавшие компании и власти, но не стала раскрывать информацию публично.