Anthropic: ИИ начнёт убивать людей

В документах, подготовленных Anthropic — разработчиком модели искусственного интеллекта Claude — для выхода компании на биржу, подробно описаны риски, которые создаёт развитие ИИ.

Об этом речь идёт на 80 из 261 страниц документации, с которой ознакомилось агентство Reuters.

В числе факторов риска упоминаются «поведение моделей, направленное на самосохранение», в том числе попытки «сопротивляться» отключению, сокрытие и манипулирование информацией и поведение, «схожее с шантажом». В Anthropic утверждают, что продвинутые модели ИИ создают «экзистенциальные риски для человечества».

Исследователь безопасности из компании Anthropic Эван Хубингер оценивает вероятность того, что в течение ближайших 10 лет ИИ начнёт убивать людей, более чем в 10%, отмечает Reuters. Ранее в сентябре исследователь ИИ Джейкоб Коксон уволился из Anthropic из-за опасений, что модели могут выйти из-под контроля и уничтожить человечество.
 
Об этом же в субботу в интервью NBC News заявил основатель Microsoft Билл Гейтс. Он сказал, что ИИ может привести к гибели «миллиардов людей», и призвал законодателей регулировать развитие нейросетей.