– Bare tanken på at politikere kan tenkes å stole på KI, er ganske skremmende

Denne artikkelen er produsert og finansiert av Universitetet i Sørøst-Norge - les mer.

Trodde du at KI har god etikk og moral? Det har forskere undersøkt.

For å få best nytte av KI, må du vite hva den er i stand til å hjelpe deg med, mener forskerne. (Foto: Colourbox)

Hver dag står vi overfor valg vi må ta.

Å bruke kunstig intelligens (KI) har blitt en vane for mange, enten til raske middagstips eller kjappe svar på større, faglige spørsmål.

Det er likevel ett område du aldri bør stole på KI for råd om: Etikk og moral.

Dette har forskere ved Universitetet i Sørøst-Norge (USN) undersøkt.

– At forskningsfeltet var så umodent var en overraskelse, sier forsker Bjørn Aksel Flatås. (Foto: USN)

Resultatene er nedslående

Forskergruppen har undersøkt konkrete forsøk på å bygge etikk inn i KI-systemer. Det vil si hvor godt systemet er lagd for å gjøre etiske vurderinger.

Resultatene er nedslående, forteller prosjektleder Bjørn Aksel Flatås, førstelektor ved USN.

– Vi var klar over at det er teknisk og teoretisk vanskelig å bygge etikk inn i KI, men at forskningen var kommet så kort, var en overraskelse. Spesielt med tanke på hvor mye politisk og akademisk oppmerksomhet etisk KI får, sier Flatås.

– Vi fant faktisk ingen overbevisende forsøk på å bygge KI-systemer som var i stand til å gjøre etiske vurderinger, sier Tom Eide, pensjonert professor ved USN.

For å få best nytte av KI, må du vite hva den er i stand til å hjelpe deg med, mener forskerne.

– Svært upålitelig

Forskerne forteller at KI kan være fantastisk til å finne mønstre i store mengder informasjon. Det kan være værvarsling, røntgenbilder eller ansiktsgjenkjenning. 

Den kan også være en god sparringspartner i læring, fordi den oppsummerer store mengder informasjon raskt.

Spør du KI om hjelp til å ta et valg for deg, kan svarene være svært upålitelige. Det er det én god grunn til.

– Svarene du får er statistiske. Hvis du stiller et spørsmål som gjelder verdier, beregner KI-systemet et svar. Vi har ikke funnet vitenskapelig dokumentasjon for at noen har klart å gjøre KI i stand til å veie ulike moralske verdier og hensyn mot hverandre slik vi mennesker gjør, sier Flatås.

KI kan kalkulere, ikke reflektere

Spørsmål som «bør jeg besøke bestemor i kveld eller se en serie?» eller «hvem bør jeg ansette?» krever vurderinger av hensyn, rettferdighet og empati. Det er noe KI ikke kan gjøre, ifølge forskningen.

– KI kan gi deg argumenter og anbefalinger, men disse vil være kalkulasjoner på bakgrunn av treningsdata, ikke verdibaserte vurderinger vi kan stole på, forklarer Flatås.

– Det KI kan, er å kalkulere, ikke reflektere. KI er matematikk, ikke etikk. Du får et statistisk beregnet svar, og det er ikke nødvendigvis et svar du som person vil vurdere som moralsk godt eller riktig.

Flatås forteller at når mennesker tar valg, veier vi ulike hensyn mot hverandre. Er det hensynsfullt? Rettferdig? Skadelig? Hva veier tyngst? Dette er vurderinger KI ikke er i stand til å gjøre.

Kan være en enorm tabbe å la KI ta beslutninger

Det virker som det er en ambisjon om å integrere KI i virksomheter på nær sagt alle samfunnsområder, mener Eide. 

Men hvis dette innebærer å inkludere KI i beslutningsprosesser, kan det vise seg å være en enorm tabbe, advarer han. 

– Forsøkene på å bygge etikk inn i KI er veldig begrensede, og inkluderer som regel bare ett eller to etiske prinsipper. De fleste studiene og forsøkene vi har undersøkt har i hovedsak handlet om bias, det vil si partiskhet i datasett, men etikk handler om mye mer enn det, sier Flatås.

– Bare tanken på at beslutningstakere kan tenkes å stole på KI, er ganske skremmende, sier Eide.

Er etisk KI mulig?

Fra 2017 til 2024 har utviklingen av kunstig intelligens gått svært raskt. Likevel viser forskningen at en grunnleggende del fortsatt er underutviklet: Etikken.

– KI er kommet for å bli, og den er utvilsomt nyttig på en rekke områder. Men det er viktig å vite hva vi kan bruke den til. Systemet er ikke transparent, det vil si at vi ikke kan se hvorfor vi får et bestemt svar eller hvilke vurderinger den gjør. Derfor er det viktig å kryssjekke informasjonen når man bruker KI, sier Flatås.

Til slutt stiller forskerne spørsmål om hvorvidt et etisk KI-system er noe vi burde ønske oss.

– Gjennom forskningsprosessen vår har vi også fundert over nye spørsmål: Er det i det hele tatt mulig å skape etisk KI? Og er det en moralsk riktig og god ting å gjøre? 

Referanse:

Bjørn Aksel Flatås mfl.: Building Ethics into Artificial Intelligence: A cross-disciplinary systematic review. SJIS Preprints, 2025. (Sammendrag)