Sensor skjelver av tekstene. Nå skal KI løse KI-problemet

Da språkmodellen ChatGPT ble lansert for to år siden av OpenAI, kom diskusjonene i fleng. I Norge har særlig bruken av kunstig intelligens (KI) i eksamenssammenheng ført til heftig debatt. 

– Jeg småskjelver når jeg skal være sensor, fordi jeg ikke klarer å skille egenproduserte og KI-genererte tekster, sa professor Peter Fjågesund til TV 2 i august.

Nå kan KI-utfordringen likevel være løst – i allefall for å oppdage KI-fusk. Og det er nettopp KI som er løsningen. 

Det samme selskapet som utviklet språkmodellen ChatGPT har nemlig utviklet en detektor. Den skal med hele 99,9 prosent sikkerhet klare å spore om en tekst er KI-generert, skriver The Wall Street Journal. 

Behovet for en detektor har vært diskutert i KI-miljøene i flere år. 

Men detektortjenesten er foreløpig ikke ute på det åpne markedet. 

Skeptisk: – Et våpenkappløp

Siden språkmodeller som ChatGPT ble lansert, har Felles klagenemd mottatt 15 saker der det er blitt brukt kunstig intelligens. Det viser statistikk fra Direktoratet for høyere utdanning og kompetanse. 

Generelt mottar Felles klagenemd primært klager som dreier seg om fusk i forbindelse med eksamensgjennomføring. 

EKSPERT: Inga Strümke mener man ikke kan lene seg på detektoren om man vil finne KI-generert innhold. Foto: Mona Hauglid

KI-ekspert Inga Strümke er skeptisk til at detektortjenesten vil lykkes med å avdekke KI-fusk. Hun mener det er et problem at den blant annet ikke vil klare å håndtere tekster skrevet på et annet språk enn engelsk. 

–  Verktøyet vil derfor ikke kunne påvise fusk. Det holder ikke å si at «et verktøy fra OpenAI anslår at du har fusket med 95 prosent sannsynlighet», sier hun. 

Strümke er klar på at andre grep må brukes for å sikre at KI-fusk blir oppdaget, og foreslår at KI-genererte tekster vannmerkes. Dette merket vil være usynlig, men gjøre at tekstens opprinnelse kan bekreftes med sikkerhet. 

– Den allmenne oppfattelsen er at OpenAI kan vannmerke KI-generert tekst, men ikke gjør det av konkurransehensyn. 

Strümke legger til at et KI-basert detektorverktøy vil skape et slags våpenkappløp. 

– Hele formålet med å lage KI-modeller som genererer tekst, er at de skal produsere en tekst som ikke kan skilles fra menneskelig tekst. Det er et våpenkappløp vi ikke kan vinne på langsikt.

– Får «KI-alarm»

KI-TEKST: Krogh mener teksten nødvendigvis ikke blir bedre av å bruke KI.

Liv Cathrine Krogh underviser og sensurerer for norsk språk og litteratur. Hun mener det er få som bruker KI-generert tekst i eksamensbesvarelsene sine. 

Hun bekrefter at hun har mistenkt bruk av KI i eksamensbesvarelser. Men mistanken er ikke nok til å gi eleven strykkarakter: 

– Jeg ser at teksten er mer polert. Noen tekster får jeg litt «KI-alarm» på, sier hun. 

Krogh er likevel skeptisk til bruken av KI-detektor i utdanningssammenheng.

– Teknologien for å oppdage vannmerker er ikke god nok enda. I tillegg finnes det måter å kvitte seg med vannmerkingen på. Det er også mulig å få falske positive, altså at en tekst blir feilaktig identifisert som AI-generert når den ikke er det, sier Krogh.

Det er noe helt annet Krogh er bekymret for, når KI har inntatt norske skoler.  

– Studenter som ikke har tilstrekkelig med skrivekompetanse eller kunnskap tar bort sin egen mulighet til å tilegne seg kunnskap og kompetanse, ved å bruke KI, sier sensoren. 

Krogh mener det er mye mer alvorlig.

Mener KI er et godt verktøy 

Studentene selv mener derimot at det er få som bruker KI-verktøy for å jukse på eksamen. 

– Studenter er opptatt av å ikke fuske og holder seg innenfor de reglene som gjelder. Da er KI et godt verktøy både for studenten, underviseren og sensoren, sier Kaja Ingdal Hovednak, leder for Norsk studentorganisasjon. 

STUDENTENE: Kaja Ingdal Hovednak sier at hun ikke ser noen utfordringen med KI-verktøyet. Foto: Skjalg Bøhmer Vold

Hovednak poengterer at det er vesentlig at studentene setter seg inn i de moralske og etiske problemstillingene som følger med bruken av kunstig intelligens: 

– Verken student eller underviser er fortrolig nok med KI i dag. Det skaper forvirring og usikkerhet rundt hvordan teknologien skal brukes på en forsvarlig måte, sier hun.