ChatGPT ложно обвинил норвежца в убийстве его детей

Чат-бот с искусственным интеллектом ChatGPT предоставил пользователю ложную информацию на запрос, заявив, что тот убил двух своих детей и пытался убить третьего.

Как передает ТАСС, об этом сообщила организация noyb, подавшая жалобу на компанию - разработчика OpenAI в Норвежское агентство по защите данных (Datatilsynet).

«Некоторые считают, что дыма без огня не бывает. Больше всего меня пугает, что кто-то может прочитать этот ответ и поверить ему», - передает пресс-служба noyb слова пострадавшего пользователя Арве Ялмара Хольмена. Согласно жалобе, ChatGPT приписал Хольмену преступления, которые он не совершал, включая убийство и приговор к 21 году заключения. В ответе содержались реальные данные пользователя - его имя, количество детей и родной город. Noyb заявила, что это нарушает статью 5(1)(d) Общего регламента по защите данных Европейского союза (GDPR), требующую точности персональных данных.

В nyob заявляют, что OpenAI не исправляет ошибки, а лишь блокирует их выдачу. Юрист nyob Клеанти Сардели отметил, что дисклеймер о возможных ошибках не освобождает компанию от ответственности.

После жалобы OpenAI обновила модель, но в noyb заявляют, что неверные данные могут сохраняться в системе. Организация требует от Datatilsynet обязать OpenAI удалить ложные сведения, скорректировать алгоритм и наложить штраф за нарушение GDPR.