Anthropic предупредила о скором появлении самовоспроизводящегося ИИ

Компактные модели искусственного интеллекта (ИИ), способные к самостоятельной репликации на коммерческих устройствах интернета вещей (IoT), могут появиться на рынке в ближайшие месяцы.

Об этом 13 октября сообщила американская ИИ-лаборатория Anthropic.

«Мы ожидаем, что в будущем нас ждет множество агентов, работающих на самых разных типах оборудования, включая то, которое не находится под управлением человека», — говорится в заявлении на сайте компании.

По словам представителей ИИ-разработчика, автономные программы-репликаторы смогут заражать умные бытовые духовки и бюджетные ТВ-приставки на базе операционной системы Android, причем остановить их распространение будет крайне сложно из-за полного отсутствия единого центра управления.

В компании пояснили, что в отличие от классического вредоносного софта, новые интеллектуальные системы способны самостоятельно распознавать незнакомые им типы аппаратного обеспечения. В ходе проведенных испытаний тестируемая ИИ-модель уже успешно выполнила задачи вывода на восьми из девяти предложенных прототипов стороннего электронного оборудования.