У ChatGPT появится детская версия

Компания OpenAI разрабатывает специализированную версию чат-бота ChatGPT для пользователей младше 18 лет.

Как сообщает CNBC, новая модификация будет включать функции родительского контроля и усиленные механизмы защиты от нежелательного контента.

При идентификации несовершеннолетнего пользователя система автоматически перенаправит его на безопасную версию ChatGPT, где будет заблокирован графический и сексуальный контент. В исключительных случаях, связанных с сильным эмоциональным дистрессом, предусмотрена возможность привлечения правоохранительных органов.

OpenAI также работает над технологией более точного определения возраста пользователей. Если система не сможет достоверно установить возраст, она будет по умолчанию активировать детский режим.

Инициатива стала ответом на расследование Федеральной торговой комиссии США, изучающей влияние ИИ-чат-ботов на детей и подростков. Ранее компания уже сталкивалась с критикой после инцидента, когда ChatGPT оказался вовлечён в трагическую ситуацию с подростком, что привело к судебному иску.