Anthropic: Развитые системы ИИ могут представлять угрозу существованию человечества

Развитые системы искусственного интеллекта могут представлять угрозу существованию человечества, а наиболее мощные модели — помогать в создании оружия массового поражения.

Об этом разработчик Claude, компания Anthropic, предупредила в проспекте IPO, опубликованном на сайте Комиссии по ценным бумагам и биржам США (SEC).

В документе говорится, что особенно серьезные риски возникают при злонамеренном использовании ИИ, его превращении в оружие или предоставлении системам высокой степени автономности.

Anthropic признает, что ее передовые модели уже обладают возможностями, которые могут помочь злоумышленникам разрабатывать химическое и биологическое оружие. Компания применяет защитные механизмы, однако предупреждает, что их можно обойти.