ChatGPT си измисли сериозно престъпление и въвлече OpenAI в скандал с GDPR

Норвежецът Арве Хялмар Холмен беше шокиран от съобщение в ChatGPT, в което изкуственият интелект фалшиво го обвинява в убийството на трите му деца. В същото време текстът включвал реална информация за местоживеенето и семейството му, което допълнително засилило драматизма на ситуацията.

Инцидентът стана предмет на правна жалба – правозащитната организация noyb подаде заявление до норвежкия орган за защита на данните, като заяви, че OpenAI е нарушила член 5 от Общия регламент за защита на данните (GDPR).

Основният акцент в жалбата е, че личните данни, дори ако се използват в ИИ-модел трябва да бъдат надеждни. Noyb отбеляза, че законът не прави изключение за изкуственият интелект – грешката в данните си остава нарушение, независимо от технологичните ограничения. Организацията смята, че в случая на Холман OpenAI е смесила фиктивни и истински елементи, което утежнява естеството на нарушението.

Проблемът се задълбочава от факта, че компанията не предоставя на потребителите възможност да коригират невярната информация. По-рано noyb посочи, че ChatGPT, за разлика от традиционните услуги не позволява на потребителите да редактират невярна информация. Вместо това OpenAI само е добавила предупреждение за възможни грешки в интерфейса на чатбота, което според юристите не освобождава компанията от отговорност.

Адвокатите искат от норвежкия регулатор съдебно разпореждане, което може да задължи компанията да промени алгоритмите си, да ограничи обработката на личните данни на Холман или да наложи глоба. Въпреки това OpenAI може да има аргумент в своя защита – noyb призна, че новите версии на ChatGPT, свързани с интернет, вече не генерират невярна информация за Холмен. Това означава, че проблемът, поне на ниво потребителски интерфейс, е отстранен.

В жалбата обаче се посочва, че връзката към оригиналния разговор все още е налична, което означава, че фалшивата информация може да е била съхранена в системите на OpenAI и дори използвана за предварително обучение на ИИ-модела.

Това, според noyb показва продължаващо нарушение въпреки външните корекции. Адвокатите подчертават, че премахването на достъпа до фалшивата информация не означава спиране на нейната обработка – компаниите нямат право да „скрият“ грешката, без да я коригират в системата.

Решението по жалбата е предоставено на норвежките регулаторни органи, но ситуацията вече показва нарастващия натиск върху разработчиците на изкуствен интелект в контекста на точността и законосъобразността на обработката на лични данни. Разработването на ИИ-модели изисква нови подходи към отговорността и зачитането на правата на човека – дори ако лъжата идва от машина, някой трябва да носи отговорност за нея.