Norske politikere høres ut som klimaskeptikere når de snakker om kunstig intelligens

Du trenger ikke være bekymret for løpsk kunstig intelligens for å tenke at regjeringen burde ta KI-utviklingen mer seriøst, skriver innleggsforfatterne. Bildet: digitaliseringsminister Karianne Tung (Ap). Foto: Olav Olsen

Enten ignorerer de utfordringene, eller så latterliggjør de dem.

Dette er en kronikk. Eventuelle meninger i teksten står for skribentens regning. Hvis du ønsker å sende et kronikkforslag, kan du lese hvordan her.

Norske politikere høres ut som klimaskeptikere når de snakker om kunstig intelligens (KI). Når skal politikerne våkne opp til realiteten rundt KI-utviklingen? 2020-tallets KI-politikk vil bli sett på som 1970-tallets klimapolitikk.

Lære av våre feil på klima

På tampen av forrige uke slapp OpenAI siste versjon av ChatGPT. KI-forsker Morten Goodwin forteller Aftenposten at han er lamslått over fremskrittene den har gjort siden GPT4 kom i 2023.

Forbedringen er imidlertid helt i tråd med utviklingstempoet vi har sett de siste årene. Det som er til å bli lamslått av, er politikernes reaksjoner. Norske politikere høres ut som klimaskeptikere når de snakker om KI. Enten ignorerer de utfordringene, eller så latterliggjør de dem.

Vi må lære av våre feil på klimaområdet om vi skal ha håp om å styre KI i riktig retning.

Bekymret for katastrofe

Ekspertene har lenge varslet at vi må ta grep om teknologiutviklingen. Én av dem som har uttalt seg i klarest ordelag, er Stuart Russell. Russell er professor i informatikk på UC Berkeley og har bokstavelig talt skrevet læreboken om KI. For noen uker siden besøkte han Oslo og advarte statsminister Jonas Gahr Støre (Ap) og en fullsatt universitetsaula om en utvikling som er på hurtigspor i gal retning.

Vi vet hvordan vi kan lage mer og mer kapable systemer, men vi har ingen vitenskap for kontrollerbar KI, påpeker Russell.

Vi forstår, med andre ord, ikke hvordan vi skal sikre at disse systemene handler i tråd med våre verdier. Likevel bruker selskapene milliarder av dollar for å komme fortest mulig til målet om å skape stadig mer intelligente og selvstendige systemer.

Russell og en rekke av verdens ledende KI-forskere er bekymret for at det kan ende i katastrofe dersom selskapene lykkes.

Norsk politikks «snøballøyeblikk»

Når digitaliseringsminister Karianne Tung (Ap) i et intervju blir konfrontert med Russells advarsler, forteller hun at hun pleier å spørre dem som er bekymret for KI, «om de er redde for robotstøvsugeren sin, for den har jo KI i seg».

Dette må være norsk politikks «snøballøyeblikk», etter den republikanske politikeren James Inhofe, som tok med en snøball inn i Senatet for å motbevise teorien om global oppvarming.

Den vitenskapelige konsensusen er riktignok større på klimaområdet enn på KI. En rekke KI-eksperter mener at de store truslene fra KI er overdrevet. Det kan likevel virke som at mange av dem som er nærmest forskningsfronten, er klarest i sine advarsler.

Uenighet blant forskere bør heller ikke håndteres ved å stole på dem med de mest behagelige spådommene. FN viser hvordan det kan gjøres. I et forsøk på å systematisere kunnskapen rundt KI-utviklingen foreslo FN nylig å sette opp et IPCC for KI.

For KI som for klima gjelder det å komme tidlig på banen. Lenge talte klimaforskere til døve ører om CO₂-utslippenes konsekvenser for global oppvarming. Nå betaler vi prisen for at foreldre- og besteforeldregenerasjonen ikke lyttet.

Styre teknologiutviklingen

Vi bør lære av våre feil. Når et teknologisk paradigme fester seg, skal det mye til for å endre på det. Lager vi superintelligente systemer, kan det hende at vi aldri får tilbake kontrollen. Tidlig regulering kan derimot styre teknologiutviklingen i riktig retning, slik at vi får systemer som hjelper mennesker, ikke skader dem.

Noen lar seg avskrekke fra handling på grunn av den store usikkerheten knyttet til teknologiutviklingen. Men usikkerhet om hvor utviklingen går, er et dårlig argument for å stikke hodet i sanden.

Det er nemlig ikke de mest sannsynlige klimascenarioene som gir størst grunn til bekymring. Det er scenarioene med lav, men ikke ubetydelig sannsynlighet som virkelig vil skade oss om de materialiserer seg.

Burde ta KI-utviklingen mer seriøst

Det samme gjelder KI. Hvis det er en liten fare for at KI-utviklingen vil lede katastrofalt galt av sted, krever det at vi tar flere grep for å forhindre at det går galt. Usikkerhet er derfor ikke et argument for handlingslammelse, men for å handle på en måte som er robust for flere scenarioer. Selv om det er usannsynlig at Russland invaderer Norge de neste ti årene, har vi en plan for det, og vi jobber aktivt mot det både materielt og diplomatisk.

Du trenger imidlertid ikke være bekymret for Russell-scenarioet med løpsk KI for å tenke at regjeringen burde ta KI-utviklingen mer seriøst.

I 2023 ble tusenvis av KI-forskere spurt om hvilket årstall det er «like sannsynlig som ikke» at vi har KI-systemer som kan gjøre enhver tenkelig jobb bedre og billigere enn mennesker. De svarte 2047. Dette er under 25 år til og omtrent når vi når 2 graders oppvarming gitt nåværende klimapolitikk.

Og mens det legges mye politiske ressurser i å forberede oss på fremtidens klima, er fremtidens teknologi så å si helt ute av regjeringens fokus.

EUs KI-forordning har flere hull

Kanskje forklaringen på norske politikeres nonchalanse ligger i at EU har løst alle KI-relaterte problemer med sin nye KI-forordning? Det er imidlertid naivt å tro. Selv om KI-forordningen er et viktig steg fremover, har lovverket flere hull.

Forordningen dekker ikke KI av militær eller nasjonal sikkerhetsinteresse, KI-modeller spesialisert på biologi (som mange av ekspertene er mest bekymret for) eller ikke-kommersielle modeller. Den er heller ikke tilpasset systemene KI-selskapene nå jobber med, nemlig KI-systemer som kan operere på egenhånd.

Russell har ikke tro på at Norge kan gjøre mye for å påvirke utviklingen. Vi tror derimot ikke at Norge er så irrelevant.

Må ta grep nå

Vi må begynne å delta i de internasjonale arenaene hvor de store linjene i fremtidens KI-politikk diskuteres. Det er et lite steg i riktig retning at Norge er blitt med i The European Artificial Intelligence Board, som koordinerer implementeringen av KI-forordningen. Men vi må ta steget opp og jobbe for å bli med i de internasjonale møtene, lik dem som er avholdt i Storbritannia og Sør-Korea det siste året uten norsk deltagelse.

Dessuten eier Norge en betydelig del av selskapene som står bak utviklingen, gjennom Oljefondet. Det gir oss en mulighet til å utøve aktivt eierskap og utvikle tryggende praksiser for KI-utviklingen.

Vi kan også ta initiativ til at EUs nye ambisjon om et Cern for KI blir et senter for kontrollerbar KI og ikke bare bidrar til videre akselerasjon i KI-utviklingen.

Uten klarere handling vil 2020-tallets KI-politikk bli sett på som 1970-tallets klimapolitikk. Skal vi ha noe håp om å kontrollere fremtiden, må vi ta grep nå.