Trumps forbud mot «woke» KI

KOMPISER. President Donald Trump og Metas CEO Mark Zuckerberg på et møte i Det hvite hus i september 2025. Foto: Alex Brandon / AP / NTB

Språkmodellene kan endre både våre politiske meninger og vår tilgang på nøytral informasjon. Er vi forberedt?

E24s faste spaltister skriver jevnlig og gir uttrykk for sine egne holdninger.

Vi hører ofte at det å kunne endre mening er et tegn på intelligens.

Men hva hvis kunstig intelligens endrer din mening?

Er det fortsatt intelligent adferd eller skreddersydd manipulasjon?

Ny forskning omtalt i Financial Times, viser at ledende språkmodeller fra OpenAI, Meta, xAI og Alibaba kan endre folks politiske meninger på mindre enn 10 minutter og er spesielt effektive dersom bakgrunnsinformasjon om alder, kjønn og politiske sympatier også er tilgjengelig.

I tillegg bekrefter studien tidligere funn som viser at språkmodellene er bedre enn mennesker til å påvirke folks meninger. Majoriteten av språkmodeller har også en politisk venstrevridning (i en amerikansk kontekst), ifølge et arbeidsnotat fra Stanford University.

I juli i år signerte president Trump en presidentordre som forbyr statlig innkjøp av KI-modeller som bygger på prinsipper om mangfold, likeverd og inkludering, eller som ikke er politisk eller ideologisk nøytrale.

Men hvordan defineres nøytralitet, og av hvem?

Innen helsesektoren kan et slikt forbud få alvorlige konsekvenser. Medisinsk kunnskap som skal bygges inn i KI-modeller bør ta hensyn til kjønn, alder, etnisitet og sosiale forskjeller for å kunne gi treffsikre og persontilpassede råd. En «ideologisk nøytral» KI-modell vil i sin ytterste konsekvens overse viktige forskjeller mellom ulike pasientgrupper og dermed gi dårligere og mer urettferdige helseråd.

Men denne problemstillingen kan selskapene bak de ledende språkmodellene sno seg unna, fordi de ikke definerer seg som en KI-modell innen helse og dermed kan gå fri for juridisk ansvar på dette området.

Risikoen flyttes i stedet over på brukerne som benytter språkmodeller som en erstatning for legen.

I lys av dette er det verdt å merke seg at helseminister Jan Christian Vestre nylig annonserte at regjeringen ønsker å se på mulighetene for å utvikle en offentlig KI-tjeneste for helserelaterte spørsmål basert på generativ KI.

Formålet er å kunne tilby trygge svar på helserelaterte spørsmål 24 timer i døgnet og være en motvekt til tjenester som ChatGPT, som for mange har blitt det foretrukne medisinske orakelet foran tradisjonelle nettsøk.

Tidligere i år svarte Google med å lansere AI mode, der man nå ved nettsøk får opp en avansert KI-søkefunksjon øverst på nettsiden. Altså at KI gjør googlingen for deg, slik at du slipper å klikke deg videre inn på nettsidene. For det er nettopp den forenklede brukeropplevelsen av informasjonsinnhenting som gjør at stadig flere prompter i stedet for å google – folk flest vil slippe å gå inn på hvert eneste nettsted og tar snarveier til kunnskapen ved hjelp av skreddersydde svar fra KI-chatboter.

Endringene i nettvaner vil få store konsekvenser om det fortsetter – selve markedsmodellen til internett trues fordi den i stor grad er basert på annonseinntekter fra nettsidene.

Incentivene til å vedlikeholde kunnskap på nettsider som ikke baserer seg på annonseinntekter, vil også forvitre dersom stadig færre klikker seg videre til for eksempel Helsedirektoratets anbefalinger.

Per i dag finnes ingen kvalitetssikrede medisinske språkmodeller som både helsepersonell og personer uten helsefaglig kompetanse trygt kan ta i bruk. I stor grad skyldes det utfordringer med hallusinasjon, altså språkmodellenes iboende natur med å generere svar som fremstår plausible, men som egentlig er upresise eller direkte feil.

Dette underbygges også av at selskapene bak advarer mot å tolke svar som medisinske råd og heller ikke ønsker å bli regulert som medisinske verktøy med det ansvaret som medfølger.

Ifølge The Economist, har helserelaterte søk på internett allerede falt med en tiendedel og fallet er større enn for nettsider dedikert til nyheter, utdanning, forskning og oppslagsverk som for eksempel Wikipedia.
Det kan tolkes som at helse er et av de områdene hvor språkmodeller raskest vinner terreng på bekostning av nettsøk fordi brukerne opplever høy verdi fra umiddelbare og skreddersydde svar, og kanskje avdekker det også et område hvor behovet for god formidling ikke er blitt møtt tilstrekkelig.

Og det er et signal regjeringen gjør klokt i å fange opp.

Dette er E24s faste spaltister

Alle spaltene kan leses her.

• 

  TEKNOLOGI. Sophia Adampour

  Grunnlegger av teknologihubben Verse. Skriver om blokkjede, krypto og teknologi.

• 

  TEKNOLOGI. Eirin Larsen

  Teknologistrateg i Telenor og styremedlem i Fritt Ord. Tidligere journalist i bla. Adresseavisen og Dagens Næringsliv.

• 

  TEKNOLOGI. Ishita Barua

  KI-forsker ved UiA, PhD, lege og techgründer.

• 

  UTENRIKS. Ine Marie Eriksen Søreide

  Leder i Stortingets utenriks- og forsvarskomité (Høyre). Tidligere forsvarsminister og utenriksminister.

• 

  UTENRIKS. Espen Barth Eide

  Utenriksminister (Ap). Tidligere klima- og miljøminister.

• 

  UTENRIKS OG POLITIKK. Asle Toje

  Utenrikspolitisk kommentator og forsker.

• 

  POLITIKK. Mathias Fischer

  Daglig leder i Initiativ Vest. Tidligere journalist og politiker.

• 

  EU OG EUROPA. Lina Strandvåg Nagell

  Leder for Prosjekter og EU-Politikk ved Bellonas Brussel-kontor. Skriver spalten Fra Brussel om hva som skjer i unionen.

• 

  EU OG EUROPA. George Riekeles

  Assisterende direktør ved den Brussel-baserte tenketanken European Policy Center (EPC). Før dette var han blant annet diplomatisk rådgiver for EUs sjefforhandler under Brexit. Skriver spalten Fra Brussel om hva som skjer i unionen.

• 

  OLJEFONDET. Carine Smith Ihenacho

  Direktør for eierskap og etterlevelse, Norges Bank Investment Management, populært kalt Oljefondet.

• 

  NÆRINGSLIV. Johan Andresen

  Styreleder og investor i Ferd-konsernet, med et ekstra engasjement for sosialt entreprenørskap.

• 

  SKATT. Bettina Banoun

  Advokat, dr.juris. og partner i Wiersholm. Også medlem av Skatteutvalget.