Nå skal kunstig intelligens reguleres i Norge

Kunstig intelligens har for alvor blitt en del av hverdagen vår. Det brukes blant annet i skolen, helsevesenet og i rekruttering av nyansatte.

Teknologien har mange muligheter og det er viktig at vi tar den i bruk, mener digitaliseringsminister Karianne Tung (Ap).

– Men det kan også utfordre demokratiet og tryggheten vår, og derfor er det så viktig at vi tar kontroll, sier Tung til NRK.

Nylig ble verdens første lov for regulering av KI vedtatt i EU. Nå må norske bedrifter og offentlige tjenester forholde seg til nye regler for ansvarlig bruk av kunstig intelligens.

– Det er viktig for å sørge for at norsk næringsliv får samme rammevilkår som man har ellers i Europa, sier Tung.

Derfor skal et tilsyn etableres for å håndheve dette. Mer om dette senere.

Ny KI-lov

For først, hva betyr egentlig denne nye loven for deg og meg?

«AI Act» eller KI-forordningen på norsk, ble vedtatt denne våren. Den skal ikke regulere teknologien, men samfunnsrisiko, forklarer KI-ekspert Inga Strümke.

– Det høres kanskje rart ut, men det er veldig lurt. Man bruker teknologi til helt nye ting og det kommer ny teknologi hele tiden. Hadde det vært sånn så hadde det vært som å løpe rundt med brannslukkingsapparat, sier Strümke.

Den deler systemene inn i ulike risikofaktorer. Fra lavrisiko og til helt uakseptabel risiko. Det gjelder forskjellige krav og forbud, avhengig av hvilken kategori man havner i.

KI-systemer som evaluerer kandidater til jobbintervju, vil for eksempel få strengere krav.

– Man må kunne forklare hvis et KI-system sier: «Nei, du blir sannsynligvis ikke kalt inn til intervju» Så må det systemet kunne forklare hvorfor ikke. Hva var det som førte til den beslutningen?

Det som er mest interessant nå er de som blir kategorisert med høyest risiko eller uakseptabel risiko, mener Strümke.

– Masseovervåkingssystemer som kan identifisere individer. Sosialkredittsystemer vi ikke liker å tenke på som de har i Kina. Det sier EU at det er uakseptabel samfunnsrisiko med. Så det er ikke lov, sier hun.

Anbefaler tilsyn

Så, hvordan skal disse nye reglene håndheves?

Det skal settes på plass et tilsyn. Det er første skritt for å innføre KI-forordningen. På oppdrag fra Digitaliserings- og forvaltningsdepartementet har Direktoratet for forvaltning og økonomistyring, laget en uavhengig rapport med anbefalinger om hvem som er best egnet til å ha dette ansvaret.

De anbefaler at Nasjonal kommunikasjonsmyndighet får ansvaret for å følge opp de nye reglene. Anbefalingen skal statsråden nå vurdere før hun kommer til en endelig konklusjon.

– Målet er å komme med en avgjørelse så fort som mulig i løpet av høsten. Det er viktig for norsk næringsliv og for å sørge for at vi trygger befolkninga vår, sier digitaliseringsminister Karianne Tung.