Китай обяжет маркировать сгенерированные ИИ материал для защиты от фейков

Китай вслед за ЕС и США решил ввести новые нормы в отношении контента, созданного генеративным искусственным интеллектом.

Как передает 3Dnews, эти требования предписывают маркировать такие материалы во избежание распространения недостоверной информации.

Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China, CAC) совместно с тремя другими ведомствами объявила о введении нового набора норм, согласно которым разработчики будут обязаны маркировать сгенерированные ИИ материалы. Маркировка либо станет частью самого созданного ИИ контента, либо будет добавляться в метаданные. Новые требования вступают в силу 1 сентября.

Введение таких мер объясняется бурным развитием генеративного ИИ, способного создавать контент в любом формате: текст, изображения и даже имитацию человеческого голоса. В Европе требование о маркировке ИИ-контента закреплено в региональном «Законе об ИИ», а в США аналогичное требование содержится в подписанном президентом Джо Байденом указе.

«Закон о маркировке поможет пользователям выявлять дезинформацию и возложит на поставщиков услуг ответственность за маркировку их контента. Это сделано для того, чтобы сократить злоупотребления, связанные с материалами, созданными с помощью ИИ», — говорится в заявлении китайского ведомства. Закон также обязывает администрации магазинов приложений проверять наличие этой функции в размещаемом на их площадках ПО.

При этом платформы по-прежнему могут предлагать созданный ИИ контент без маркировки, если они соблюдают соответствующие правила и предоставляют такой контент по запросу пользователей. В разработке новых норм приняли участие также Министерство промышленности и информационных технологий, Министерство общественной безопасности и Национальное управление радио и телевидения Китая.