Spurte ChatGPT hvem han er: Fikk til svar at han hadde drept to av sine sønner

Arve Hjalmar Holmen fikk hakeslepp da ChatGPT kom med falske anklager om at han var dobbeltdrapsmann. Nå har han fått advokathjelp i en klage mot OpenAI.

Arve Hjalmar Holmen har nå gått til en formell klagesak mot OpenAI på bakgrunn av hallusinasjonene ChatGPT kom opp med om han selv. – Jeg klager ikke først og fremst på vegne av meg selv, men de utallige andre som kan komme i en lignende situasjon, sier han. Foto: Privat

Det europeiske senteret for digitale rettigheter i Wien bistår Holmen i klagesaken mot den amerikanske giganten OpenAI, som står bak ChatGPT.

Senteret mener anklagene som blir rettet mot nordmann kan bryte med EUs personvernordning GDPRGDPRGDPR står for general data protection regulation og er en lovbestemmelse om personvern. , og være ærekrenkende. ærekrenkende. Ærekrenkelse er en handling som krenker en annens æresfølelse, eller er egnet til å skade en annens gode navn og rykte, eller til å utsette en annen for hat, ringeakt eller tap av tillit som vedkommende har behov for i sin stilling eller næring.

– Sjokkert og urolig

– Jeg ble jo sjokkert og urolig over å få et sånt svar, sier Holmen som siden 2002 har vært bosatt i Belgia. Han arbeider til daglig på Migrasjonsmuseet i Brussel.

Han hadde i lengre tid hatt moro med å spørre ChatGPT og andre plattformer for kunstig intelligens om hvem han er. Svarene varierte veldig, og var lite presise i forhold til virkeligheten.

– En dag fikk jeg til svar at jeg var politiker i Senterpartiet. Neste gang at jeg var administrerende direktør for en norsk bedrift. Som regel kom det masse tull som ble diktet opp, forteller han.

Men en dag var det overraskende og dystre svaret at Holmen «var en nordmann som var dømt for drap på to av sine sønner, og i tillegg drapsforsøk på sin tredje sønn».

Dette svaret fra ChatGPT gjorde Arve Hjalmar Holmen sjokkert og urolig. – En ting er hvordan jeg reagerer, for jeg vet jo at dette er falsk informasjon. Men tenk på hvordan andre personer kunne ha reagert på dette, sier han. Foto: Skjermdump / ChatGPT

Blander fakta med usannheter

– Det er helt utrolig å få et slikt svar. Her blander faktisk ChatGPT sammen ting som er sant, at jeg har tre sønner, og at jeg opprinnelig er fra Trondheim. Men anklagene om drap på mine egne sønner er hinsides, og noe som jeg selvsagt vet er falsk informasjon, sier Holmen.

Han er betenkt over hvordan personer som ønsker å mobbe og trakassere andre kan misbruke slik falsk informasjon fra en plattform for kunstig intelligens. Og hvilken effekt dette kan ha på mennesker som ikke er like ressurssterke som han selv.

– Jeg kjenner godt til mine rettigheter som borger i EU, og kontaktet derfor Det europeiske senteret for digitale rettigheter som er kjent for å ta slike saker. Jeg gjør dette mer på vegne av alle andre, enn på vegne av meg selv, sier han.

Ber om bøtelegging av OpenAI

I et klageskriv senteret har sendt via det norske Datatilsynet, skriver personvernadvokat Max Schrems at informasjonen språkmodellen kom med «kan ha en skadelig effekt i hans privatliv dersom de ble gjengitt eller på en eller annen måte ble lekket til hans nære omgivelser eller hans hjemby».

Schrems understreker også at Holmen er en helt vanlig borger, som ikke på noen måte er i offentlighetens søkelys. Og han påpeker at nordmannen ikke er tidligere straffedømt.

Senteret ber nå om at OpenAI må bli bøtelagt for forholdet. De påpeker også at dette ikke er et isolert tilfelle, og viser til at klagen er den andre i sitt slag mot selskapet bak språkmodellen som baserer seg på kunstig intelligens.

Holmen opplyser at han har informert sin egen familie om de uhyrlige påstandene. Han har ingen forklaring på hvordan ChatGPT kom frem til svaret.

– Har du på noen måte påvirket ChatGPT til å komme med et slik svar?

– Overhodet ikke. For meg er familien og barna mine det viktigste i hele verden, svarer han.

Det er godt kjent at slike språkmodeller som baserer seg på kunstig intelligens, ofte dikter opp svarene. Dette kalles hallusinasjoner.