«Галлюцинации» ChatGPT стали предметом жалобы на конфиденциальность в ЕС

Правозащитная группа NOYB пожаловалась в австрийский надзорный орган на OpenAI за предоставление неверной информации чат-ботом ChatGPT, что может нарушать правила конфиденциальности ЕС. Об этом пишет Reuters. Заявитель, чьи интересы представляет NOYB, спросил ChatGPT о своем дне рождения. Однако чат-бот несколько раз выдал ложные сведения вместо того, чтобы сообщить об отсутствии необходимой информации. После обращения заявителя OpenAI якобы отказалась исправить или удалить неточности. Компания заявила о невозможности внесения корректировок, а также не раскрыла информацию об обработке данных, их источниках и получателях. NOYB требует провести расследование на предмет нарушения OpenAI норм GDPR. Группа призвала к усилению мер, направленных на гарантирование точности обработки персональных данных в рамках работы больших языковых моделей. Юристка NOYB Маартье де Грааф подчеркнула, что компании пока не могут заставить чат-ботов вроде ChatGPT соблюдать законодательство ЕС при работе с информацией о физлицах. «Если система не может выдавать точные и прозрачные результаты, ее нельзя использовать для получения данных о частных лицах. Технология должна следовать требованиям закона, а не наоборот», — считает она. В прошлом OpenAI признавала склонность ChatGPT давать правдоподобные, но неправильные ответы, что известно как «галлюцинации» языковых моделей. Компания считает проблему сложной для решения. Напомним, в сентябре 2023 года Управление по защите персональных данных Польши начало проверку ChatGPT после жалобы. https://forklog.com/exclusive/ai/chto-takoe-chatgpt-i-dejstvitelno-li-on-tak-horosh