Google экстренно остановил работу своего ИИ

Недавно Google запустил собственный чат с искусственным интеллектом Gemini. Из-за встроенных настроек на политкорректность и разнообразие он стал генерировать ошибочные изображения людей, сообщает Telegram-канал Bild на русском.

Например, при просьбе нарисовать Папу Римского получалась женщина из Индии или темнокожий мужчина. Немецкие солдаты 1943 года вышли темнокожими, с азиатскими чертами лица или похожими на американских индейцев. Крайне смуглым получился и воин-викинг. А профессиональные баскетболисты, наоборот, в основном были белыми, хотя среди них много афроамериканцев.

Это вызвало волну критики, в том числе со стороны Илона Маска, который развивает собственную программу ИИ. Миллиардер обвинил Google в поощрении идеологии woke и борьбе с западной цивилизацией. В итоге корпорация отключила функцию создания изображений людей в Gemini.

«Доброжелатели Google перестарались в противодействии дискриминации меньшинств при обучении машины, — объяснил BILD австрийский эксперт по ИИ Кристоф Хольц. — При так называемой тонкой настройке, то есть при обучении корректности, «неправильные» результаты удалялись людьми, проводившими обучение. Поэтому идеология woke-редакторов Gemini проникла и в ИИ. Справедливость оказалась кривой. Сейчас Google аварийно остановила генерацию изображений, пока новые редакторы не добьются отражения реального состава населения»