ChatGPT уличили в галлюцинациях

Норвежец Арве Ялмар Холмен случайно выяснил, что ChatGPT от OpenAI знает всю его семью и искажает информацию о его биографии.

Как говорится в жалобе, поданной защитниками цифровых прав из Noyb, мужчина решил проверить, какую информацию расскажет ChatGPT по его имени. Результат его шокировал.

ChatGPT ответил, что Холмен был приговорен к 21 году тюрьмы как «преступник, который убил двух своих детей и пытался убить своего третьего сына». Среди клеветнической информации были и правдивые факты о мужчине. В частности, чат-бот правильно указал количество и пол детей Холмена, а также локацию, в которой тот живет.

В жалобе говорится, что Холмен не мог легко исправить эту информацию, поэтому настаивает, что OpenAI нарушила требования по точности данных Общего регламента защиты данных ЕС.

«Больше всего меня пугает тот факт, что кто-то мог прочитать этот материал и поверить, что он правдивый», — говорит мужчина.

ChatGPT прекратил выдавать эти фальшивые заявления о Холмене, но Noyb требует от OpenAI удалить клеветнический результат о Холмене и настроить свою модель, чтобы устранить неточные результаты. Также предлагают наложить административный штраф, чтобы предотвратить подобные нарушения в будущем.