Raser mot KI: Sa at norsk politiker var dømt for seksuell omgang med barn

Kunstig intelligens (KI) er overalt.

Det gjør at heller ikke Google-søk, som har vært mange nordmenns måte å søke opp informasjon på, alltid er til å stole på.

Det ble tydelig i et eksempel som er spredt på Reddit, og omtalt av Koder24. 

STORTINGSTABBE: Google tok litt vel hardt i da en bruker søkte etter stortingspolitikere som hadde vært i fengsel. Foto: Amanda Pedersen Giske / NTB

Googles KI-tjeneste kom nemlig med et oppsiktsvekkende svar på søket «stortingspolitiker i fengsel».

Da svarte Google med informasjon om at tre uskyldige norske politikere hadde begått lovbrudd.

– Absolutt feil

Verst gikk det utover tidligere SV-topp Heikki Holmås. Han ble anklaget for å ha kjøpt seksuelle tjenester av mindreårige.

Holmås sier det er både grovt og kjipt.

– Det er absolutt feil, sier han om påstandene fra Googles KI-modell.

– Det er en iboende svakhet ved dagens språkmodeller at de kan hallusinere, eller finne på fakta, sier Holmås.

SV-TOPP: Heikki Holmås var i en årrekke en av toppene i SV, og stortingsmann. Nå er han direktør i Sopra Steria. Foto: Berit Roald / NTB

Han mener det er viktig å hjelpe virksomheter i å ta i bruk mulighetene som ligger i KI. Men at man da må gi klare råd om hvordan man kan redusere og fjerne risiko for hallusinering.

– Jeg bruker selv KI mye i arbeidet mitt, og ser mange eksempler på at selv de store techselskapenes språkmodeller fantaserer. Det å klare å skille sant fra usant, samtidig som jeg reduserer risiko for hallusinering i første omgang, er en naturlig del av jobben jeg gjør.

– Helt sprøtt

MDG-politiker Eivind Trædal er blant dem som har reagert sterkt på Googles feilaktige anklager.

– Det å få løgn servert på løpende bånd, som en naturlig del av den digitale infrastrukturen, er helt sprøtt, sier han.

SPRØTT: MDG-topp Eivind Trædal tror vi kommer til å riste på hodet over KI-satsingen om noen år Foto: Martin Berg Isaksen / TV 2

Trædal ber regjeringen om å komme på banen med reguleringer. 

Både mot slike grove faktafeil fra KI, men også mot KI-genererte bilder som fremstiller ekte personer – både barn og voksne – på en seksualisert måte.

– Regjeringen må gjøre hva de kan for å få satt ned foten mot dette. Det er et farlig eksperiment som er satt i gang, sier Trædal.

Samtidig bør Norge samarbeide tett med EU, som har vist at de tør å bruke muskler mot de store techselskapene, mener MDG-politikeren.

Bekymret for barna sine

Trædal anklager regjeringen for en hodeløs satsing på KI.

Han viser til at digitaliseringsminister Karianne Tung har tatt til orde for at offentlig sektor raskt må ta i bruk KI.

Det har ført til KI-blemmer fra både kommuner og andre offentlige instanser.

– Om ti år kommer folk ti å riste veldig på hodet over dette. I dag rister vi på hodet over hvor raskt iPad ble implementert i norsk skole. Men dette er ti ganger verre, sier han.

STRESSET: Eivind Trædal sier at KI-satsingen gjør ham stresset for hva slags utdanning hans egne barn skal få. Foto: Martin Berg Isaksen / TV 2

– Jeg blir stresset for mine egne barn. Hva slags utdanning skal de få hvis de lærer seg å bruke disse modellene som spytter ut løgner over en lav sko?

TV 2 har bedt digitaliseringsminister Karianne Tung om en kommentar.

Trædal understreker at det ikke er alt som er dumt med KI. Men han reagerer på at det fortsatt dukker opp så grove faktafeil – og på at regjeringen vil ha en så rask satsing på KI.

– Hvor klokt er det å satse på KI så raskt når for eksempel dette hallusinasjonsproblemet virker å være uløst? Da har vi en ganske stor hodepine når det kommer til kunnskapsinnhenting, som jo er ganske viktig.

Google: Vi jobber hardt

Det at feilopplysningene om de norske politikerne kom fra et vanlig Google-søk, gjør saken enda verre, mener Trædal.

– Det blir dyttet på oss overalt, og er ikke frivillig. Det å google er helt vanlig for folk, og så får man slik informasjon prakket på seg.

Koder24 har bedt Google kommentere de feilaktige søkeresultatene. Kommunikasjonssjef Sondre Ronander i Google Norge gir et generelt svar.

VIL UNNGÅ FEIL: Google opplyser at de jobber hardt for å unngå slike feil. Foto: Thibault Camus / AP / NTB

– KI-oversikter forbedres stadig for å vise nyttig informasjon, og vi jobber hardt for å sikre kvaliteten på svarene.

Han legger til at Google bruker eksempler på feil til å gjøre systemene bedre.

– Avgjørende for demokratiet

Heikki Holmås vil fortsette å bruke KI, men mener vi som samfunn må ta noen grep.

– Hvis vi skal kunne ha en felles oppfatning i samfunnet av hva som er fakta og hva som er feil – eller til og med ondsinnet løgn, blir det å lære opp både barn og voksne i å ha et kritisk forhold til hva som skrives helt avgjørende for demokratiet framover.

– Det gjelder både det som er skrevet av KI-modeller, og ellers i mediene, sier Holmås.