Оценена вероятность вымирания человечества из-за внедрения ИИ

Вероятность вымирания человечества из-за искусственного интеллекта составляет как минимум 95 %, если развитие технологий продолжится нынешними темпами.

Об этом заявил президент Института исследований машинного интеллекта, бывший инженер Google и Microsoft Нейт Соарес, чьи слова приводит газета The Times.

По мнению Соареса, современные ИИ-системы находятся на ранней стадии, но в будущем могут достичь уровня общего искусственного интеллекта — способного самостоятельно ставить цели, принимать решения и планировать в различных областях знаний. На этом этапе ИИ перестанет быть узкоспециализированным инструментом и получит возможности, сопоставимые с человеческими.

Издание отмечает, что такие системы будут обладать рядом преимуществ: им не требуется отдых, питание или обучение в привычном смысле — знания могут передаваться напрямую. В перспективе это может привести к появлению искусственного суперинтеллекта, способного решать задачи, недоступные человеку, включая лечение рака и освоение холодного ядерного синтеза.

Соарес также выразил обеспокоенность тем, что разработчики создают интеллектуальные системы, не до конца понимая их внутренние процессы. Он сравнил ситуацию с движением к обрыву на полной скорости, подчеркнув, что человечество может потерять контроль над технологиями, которые сами по себе становятся всё менее прозрачными и предсказуемыми.