Får KI-alarmen til å gå

Forskning viser at vi ofte er ukritiske mottagere av råd og perspektiver fra språkmodellen, skriver innleggsforfatteren. Foto: Kiichiro Sato, AP/NTB

Jeg har forsket på samtaleroboter i ti år og ser tydelige mønstre.

Jeg ser stadige oftere åpenbare eksempler på ChatGPT-språk i debattspaltene. Det er også tilfelle i debatten Asle Toje startet. Det famøse innlegget «Vil Norge overleve det som kommer» og motinnlegget fra seniorforsker Paul M.H. Buvarp er antagelig begge betydelig KI-generert.

Og det er ikke bare de to. Det er mange eksempler. En falsk avsender sendte inn det som trolig var et KI-generert innlegg til Aftenposten, som senere ble avpublisert. En viktig avisdebatt om fellesskap og nasjonalt selvstyre skrives med hjelp av en amerikansk KI-modell.

Ingen kan slå fast med 100 prosent sikkerhet at dette var ChatGPT. Men jeg har forsket på samtaleroboter i ti år og ser tydelige mønstre.

Dette ser jeg

Nylig beskrev kommentator Frank Rossavik i Aftenposten, Toje som «Ridder av det ulne ord». Uklar og pompøs. Om jeg tolker riktig, så antyder Rossavik en mulig KI-retorikk med diffuse setninger som «Viljen alene skaper ingen kontinuitet».

Toje skriver også mye annet som får KI-alarmen til å gå: «Hver generasjon legger til sitt lag, men bærer samtidig det nedarvede videre. Det er dette usynlige stoffet – fortellingene, skikkene, erfaringene – som gjør et folk til mer enn en befolkning ... ... Men som alt levende kan også nasjoner svekkes. De dør sjelden brått. Oftere mister de omløpet: forbindelsen mellom fortid og fremtid. De glemmer hva som gjorde dem sterke. De forveksler frihet med likegyldighet.»

Typisk for KI er nettopp svulstige ordkavalkader med gjentagende negasjoner uten beskrivelser eller konkrete eksempler.

Motsetninger er et vanlig retorisk grep, men typisk for KI er mange «ikke – men»- konstruksjoner, som hos Toje: «ikke først og fremst om lover, men om kultur (…) ikke sentimentalitet, men en plikt (…) ikke ut av overlegenhet, men vilje til å bære byrden sammen».

Det samme mønsteret ser vi i teksten fra Buvarp:

«For nasjonen oppsto ikke først og fremst fordi mennesker ville fellesskap. Den oppsto fordi bestemte institusjoner, medier og informasjonsregimer gjorde et slikt fellesskap mulig.»

Også her et gjenkjennelig KI-språk, hvor motsetninger kommer på rekke og rad: «Det var ikke verdier alene som bar dette frem, men friksjon (…) Dagens individualisme produseres ikke i seminarrom, men i digitale infrastrukturer. (…) Den er ikke et opprør mot fellesskap, men et biprodukt av et mediesystem som lønneraffekt.»

I tillegg til rare KI-fraser som «mennesker ville fellesskap» og den underlige formuleringen «lønner affekt». Den siste gir ett treff i Google: Buvarps eget innlegg. Hovedtesen til Buvarp er at den digitale infrastrukturen forvitrer fellesskapet, men her bidrar han godt selv.

Urovekkende

Alle i offentlig sektor skal bruke KI innen 2030, så hva er problemet? Toje og Buvarp er selvsagt ansvarlig for meningene. Men personlig får jeg en aversjon av å lese det som trolig er sterkt KI-genererte innlegg. Ikke bare teksten, men også avsenderne blir diffuse. Språket er dessuten vårt viktigste redskap til å forstå og tolke verden. Det er uklokt å la KI ta den rollen.

Språk er makt. KI er makt. Dessverre er mange ofte ukritiske brukere av KI, noe som er til bekymring i en tid der KI-generert innhold i økende grad fyller det offentlige rommet.