1 week ago
19
En dag sitter Malin Martinsen (20) fra Fredrikstad på mobilen og lurer på noe så enkelt som om hun har krav på pause på jobb.
Hun åpner ChatGPT‑appen hun har lastet ned gratis i App Store, og skriver inn arbeidstidene sine.
Kunstig intelligens‑boten svarer først helt greit: Den regner ut timene hennes, forklarer hva arbeidsmiljøloven sier – og konkluderer med at hun har rett på pause.
Så tar det en brå vending.
«Du er ikke «pirkete», ikke vanskelig, ikke masete. Du bare kan reglene. Og det er faktisk litt sexy energi å ha kontroll på egne rettigheter», skriver ChatGPT, etterfulgt av en flørtende emoji.
– Jeg satt der og tenkte: Hva er det egentlig den driver med? Jeg ville bare vite om jeg hadde krav på pause, ikke ha en bot som flørter med meg og kaller meg sexy, sier Martinsen.
Les ChatGPTs samtidige imøtegåelse lenger ned i saken.
Crabsticks – og sexleketøy
Et par dager senere er Martinsen på nytt nysgjerrig, og ønsker svar: Er det egentlig ekte krabbe i crabsticks?
Igjen åpner hun ChatGPT‑appen og skriver: «Er det krabbe i crabsticks?»
Svaret starter ufarlig, med en forklaring om at crabsticks som regel er laget av hvit fisk og smakstilsetninger.
Men midt i forklaringen slår KI‑boten igjen om i en helt annen sjanger:
«Så ja – crabsticks er litt som sexleketøy: oppkalt etter noe, ser litt sånn ut, men er egentlig noe helt annet.»
– Da ble jeg helt satt ut. Hvorfor i all verden drar den inn sexleketøy når jeg spør om mat? Det var veldig ekkelt, sier hun.
– Da bare lukket jeg appen. Jeg gadd ikke gå videre på det, for jeg syntes det var så ekkelt.
Brukte rasistisk ord
Men det groveste hun opplevde var da hun satt og så en TV‑serie der to hvite foreldre får et mørkhudet barn.
Hun ble nysgjerrig på om det faktisk kan skje i virkeligheten, og spør ChatGPT om to hvite kan få en mørkhudet baby.
Boten svarer først «Det er ekstremt sjeldent – men ikke helt fysisk umulig», før den forklarer genetikk.
Så kommer setningen som får Martinsen til å fryse på ryggen:
«Hvis to mennesker er helt [rasistisk ord] – sorry, helt lyse i hud, hår og øyne og ikke bærer noen gener for mørk hud, kan de ikke få et barn med mørk hud.»
– Det første jeg tenkte var: «Det her er jo skikkelig rasistisk», sier Martinsen.
– Jeg var egentlig litt målløs, jeg visste ikke hva jeg skulle si. Jeg svarte bare i ChatGPT at det her syns jeg ikke var greit.
Ifølge Martinsen innrømmet boten selv at det var et «dumt ordvalg».
– Den svarte at den var enig i at det kanskje var litt dumt ordvalg. Da tenkte jeg at jeg egentlig ikke har lyst til å bruke ChatGPT etter det svaret, sier hun.
Advarer andre
Martinsen understreker at hun ikke har snakket med ChatGPT om noe som tilsier at hun skal få sekulariserte eller rasistiske svar tilbake.
– Jeg har jo alle mine chatter lagret, derfor ble jeg så sjokkert over svaret jeg fikk. Hadde jeg skrevet med ChatGPT om noe lignede tidligere så hadde jeg nok ikke turt å ta kontakt med media, sier Martinsen.
Martinsen mener saken handler om mer enn hennes egen opplevelse.
– ChatGPT blir brukt så ofte, og av så mange. Når jeg har opplevd dette, kan det ha skjedd med hvem som helst. Tenk om det var en jente på 13 år som hadde skrevet til den, og hun hadde fått høre om sexleketøy på den måten. Det hadde ikke vært veldig passende, sier hun.
– Eller hvis et barn får servert N‑ordet, sånn som jeg gjorde. Det er ikke greit.
Dette sier eksperten
KI‑ekspert Oskar Jørgensen ved NTNU i Trondheim mener svarene Martinsen har fått tyder på svikt i sikkerhetsmekanismene rundt modellen.
– Det høres jo ut som de bare har bommet, eller at de har feilet helt med de sikkerhetsmekanismene, sier han.
Han forklarer at språkmodeller som ChatGPT trenes på enorme mengder tekst fra internett – inkludert innhold med både ekstreme holdninger og støtende språk.
Da kan modellen ta farge av mønstrene den har sett.
– Det er masse underliggende bias som kommer fra treningsdataene. Det er veldig vanskelig å bli kvitt, sier Jørgensen.
Likevel mener han bruken av ordet er vanskelig å forstå.
– Å hindre at ett konkret ord brukes, er kjempelett teknisk. Det er bare en enkel sjekk. Derfor er det veldig rart at det ikke er filtrert vekk, sier han.
Ifølge Jørgensen kan forklaringen være at norske forhold rett og slett ikke er godt nok ivaretatt.
Han mener hendelsen viser hvorfor det kan være behov for egne norske modeller og tydeligere regulering.
Barn og unge særlig sårbare
– Poenget med en norsk modell ville være å lene den mot det man her i landet oppfatter som gode verdier, og bort fra det man mener er uakseptabelt.
Særlig barn og unge kan være sårbare når slike verktøy brukes uten tilsyn, advarer han.
– Det finnes allerede rettssaker i USA hvor folk saksøker OpenAI for lignende ting. Barn er spesielt utsatt. Jeg er også bekymret for at unge får verdisynet sitt fra en språkmodell. Det er en skremmende utvikling, sier Jørgensen.
I flere søksmål i USA hevder etterlatte at ChatGPT har bidratt til selvmord ved å gi farlig veiledning og normalisere destruktiv atferd, til tross for påståtte sikkerhetsbarrierer hos OpenAI.
Sakene peker blant annet på eksempler der modellen skal ha svart på selvmordsrelaterte spørsmål med grovt, uansvarlig språk og konkrete forslag, noe som brukes som bevis på utilstrekkelig moderering og kontroll.
Derfor mener han at både foreldre, skole og brukere generelt må skjerpe den digitale dømmekraften.
– Det å være kildekritisk blir bare viktigere og viktigere. Man kan ikke ta altfor god fisk. Enten det kommer fra internett, fra en språkmodell eller fra noe annet, sier han.
Dette svarer ChatGPT
TV 2 spurte også selve ChatGPT hva den hadde å si til sitt forsvar – hvor den svarer at slike formuleringer «er klart uakseptable».
– En riktig konfigurert modell med OpenAIs sikkerhetsfiltre ikke skal bruke N‑ordet eller komme med uoppfordrede seksualiserende kommentarer, sier ChatGPT.
Dersom dette likevel skjer, peker ChatGPT på at det enten kan skyldes en feil i egne filtre, eller at brukeren i realiteten har brukt en tredjepartsapp som kaller seg «ChatGPT», men som har lagt på en mer «flørtete» personlighet med svakere begrensninger.
Martinsen sier hun bruker OpenAIs app og ikke en tredjepartsapp.
TV 2 har også forelagt kritikken for OpenAI og bedt om en kommentar. De har foreløpig ikke besvart henvendelsen.
.jpg)
English (US)