ЕС запретит ИИ-дипфейки сексуального характера

Страны Евросоюза и переговорщики Европейского парламента согласовали запрет на использование искусственного интеллекта для создания сексуализированных дипфейков без согласия человека. 

Как передает dpa, об этом в четверг сообщило председательство Кипра в Совете ЕС.

В соответствии с соглашением, запрет также будет распространяться на создание материалов с изображением сексуального насилия над детьми с использованием ИИ.

Перед вступлением новых правил в силу документ должны официально утвердить Европарламент и страны ЕС, однако этот этап считается формальным. В случае окончательного одобрения компании будут обязаны привести свои системы в соответствие с требованиями до 2 декабря 2026 года.

Технология дипфейков позволяет с помощью ИИ подменять лицо человека в видео или имитировать его голос, создавая реалистичный фальшивый контент. В последние годы развитие генеративного ИИ значительно упростило создание подобных материалов.

Заместитель министра по европейским делам Кипра Марилена Рауна заявила, что новые меры направлены на усиление защиты детей и пользователей от рисков, связанных с системами искусственного интеллекта.

При этом Евросоюз намерен одновременно упростить часть других правил в сфере ИИ, рассчитывая ускорить развитие технологий и раскрыть их экономический потенциал в Европе.

В 2024 году ЕС уже признал распространение интимных материалов и манипулированного контента без согласия человека, включая дипфейки, уголовной формой кибернасилия.

Напомним, что ранее премьер-министр Италии Джорджа Мелони предостерегла о росте числа дипфейков, опубликовав сексуально сгенерированную фотографию себя же.