Новую китайскую нейросеть уличили в жесткой цензуре запросов

Китайский стартап Sand AI представил модель искусственного интеллекта для генерации видео под названием Magi-1. Эта модель получила положительные отзывы от известных экспертов, включая основателя Microsoft Research Asia Кай-Фу Ли.

Однако, как выяснило издание TechCrunch в ходе тестирования, размещенная на платформе Sand AI версия модели подвергается строгой цензуре, блокируя запросы, ответы на которые могут вызвать недовольство китайских регуляторов.

Модель Magi-1, анонсированная на этой неделе, способна генерировать видео путем последовательного предсказания кадров. Компания заявляет, что она создает высококачественные, контролируемые видео и более точно отображает физику по сравнению с конкурирующими открытыми моделями.

Из-за своих технических особенностей (24 миллиарда параметров) и высоких требований к оборудованию (для работы требуется 4-8 GPU Nvidia H100) Magi-1 непрактична для запуска на большинстве пользовательских компьютеров. В связи с этим, платформа Sand AI остается для многих единственным способом протестировать возможности модели.

Для начала генерации видео на платформе необходимо загрузить изображение-подсказку (prompt). Однако, как быстро обнаружил TechCrunch, не все изображения разрешены. Sand AI блокирует загрузку фотографий председателя КНР Си Цзиньпина, площади Тяньаньмэнь и символического изображения человека с танком, флага Тайваня, а также символов, связанных с поддержкой освобождения Гонконга. Фильтрация, по-видимому, происходит на уровне самого изображения, и простое переименование файлов не помогает обойти блокировку.

Sand AI не является единственным китайским стартапом, который ограничивает загрузку политически чувствительных изображений в свои инструменты генерации медиа. Например, платформа Hailuo AI от шанхайской компании MiniMax также блокирует фотографии Си Цзиньпина. Однако, по сравнению с Hailuo, которая разрешает изображения площади Тяньаньмэнь, фильтрация Sand AI кажется более агрессивной.

При этом в TechCrunch отметили, что, в отличие от строгой политической цензуры, китайские модели зачастую имеют меньше фильтров для порнографического контента, чем их американские аналоги.