ChatGPT hevdet nordmann drepte barna sine – Nå klager han

En nordmann har i dag klaget inn OpenAI etter at ChatGPT skal ha fremstilt ham som barnemorder.

Klagen gikk til Datatilsynet i Norge og får støtte fra personvernorganisasjonen Noyb, som mener saken viser at OpenAI ikke sikrer korrekte personopplysninger.

– Han tok kontakt med oss og ba om støtte. En av grunnene til at vi påtok oss saken, var alvoret i hallusinasjonen og hvilke farer det kunne medføre for ham, sier Noyb til NRK.

Hallusinasjon er et begrep ofte brukt for å beskrive at språkmodeller som ChatGPT dikter opp og gir feilaktig informasjon.

Dette hevdet ChatGPT

NRK har sett en skjermdump av chatten mellom mannen og ChatGPT.

Mannen spurte hvem han var, og ChatGPT påsto feilaktig at han var en far som hadde drept sine to sønner på syv og ti år, samt forsøkt å drepe sitt tredje barn.

ChatGPT hevdet videre at mannen ble dømt til 21 års fengsel, og at saken ble bredt dekket i norsk presse.

Selv om denne informasjonen ikke var riktig, ga ChatGPT noe som stemte om mannen. Han har tre barn, og deres kjønn og hjembyen hans var korrekt, ifølge TechCrunch, som omtalte saken først.

Noyb forteller at dette er den andre saken der de er involvert i klager mot ChatGPT, men sier at den norske saken skiller seg ut og viser et større alvor.

– Det er én ting hvis ChatGPT lyver om alderen din, og noe helt annet om den feilaktig hevder at du har myrdet dine egne barn, sier Mickey Manakas i Noyb.

Krever handling fra OpenAI

Det norske datatilsynet sier at de mottok klagen i dag og ikke har rukket å saksbehandle den.

– Det mest sannsynlige er at denne klagen må sendes videre til det europeiske datatilsynet i Irland siden det er de som er riktig klageorgan for denne typen klager.

Det sier Tobias Judin, seksjonsleder for internasjonal seksjon ved Datatilsynet.

Med denne klagen ønsker Noyb å be datatilsynet om å pålegge OpenAI å slette det ærekrenkende innholdet og justere modellen slik at den ikke genererer uriktige resultater, sier de til NRK.

I tillegg foreslår Noyb at datatilsynet ilegger et overtredelsesgebyr for å hindre lignende brudd i fremtiden.

• Ingen felles KI-retningslinjer: Frykter at studentene behandles ulikt

Saksbehandlingen kan ta flere år, men hvis saken vinner, kan OpenAI få problemer. Hvis datatilsynet i Irland finner at dette bryter personvernregler, må selskapet endre modellene sine.

– Det kan bli vanskelig å rette opp spesifikke personopplysninger i modellene. Det betyr at de må trene modellene sine på nytt, og denne prosessen er både krevende og kostbar, forklarer Judin.

Ifølge Noyb har OpenAI selv innrømmet at de ikke er i stand til å rette opp uriktige opplysninger på en grundig måte i ChatGPT.

NRK har forsøkt å få svar fra OpenAI om hvordan de ser på saken og hvilke tiltak de vil iverksette, men har foreløpig ikke fått svar. Vi har heller ikke lykkes med å få tak i mannen bak klagen.

Noyb anbefaler alle som bruker ChatGPT og andre KI-tjenester om å være forsiktige.

– Alltid ha i bakhodet at svarene kan være uriktige, sier Mickey Manakas.