«Галюцинації» ChatGPT стали предметом скарги на конфіденційність у ЄС

Правозахисна група NOYB поскаржилася до австрійського наглядового органу на OpenAI за надання невірної інформації чат-ботом ChatGPT, що може порушувати правила конфіденційності ЄС.

Про це пише Reuters.

Заявник, чиї інтереси представляє NOYB, запитав ChatGPT про свій день народження. Однак чат-бот кілька разів видав неправдиві відомості замість того, щоб повідомити про відсутність необхідної інформації.

Після звернення заявника OpenAI нібито відмовилася виправити або видалити неточності. Компанія заявила про неможливість внесення коригувань, а також не розкрила інформацію про обробку даних, їхні джерела та одержувачів.

NOYB вимагає провести розслідування щодо порушення OpenAI норм GDPR. Група закликала до посилення заходів, спрямованих на гарантування точності обробки персональних даних у рамках роботи великих мовних моделей.

Юристка NOYB Маартьє де Грааф наголосила, що компанії поки не можуть змусити чат-ботів на кшталт ChatGPT дотримуватися законодавства ЄС під час роботи з інформацією про фізосіб.

«Якщо система не може видавати точні та прозорі результати, її не можна використовувати для отримання даних про приватних осіб. Технологія має дотримуватися вимог закону, а не навпаки», — вважає вона.

У минулому OpenAI визнавала схильність ChatGPT давати правдоподібні, але неправильні відповіді, що відомо як «галюцинації» мовних моделей. Компанія вважає проблему складною для вирішення.

Нагадаємо, у вересні 2023 року Управління із захисту персональних даних Польщі почало перевірку ChatGPT після скарги.