Kan etikk overleve i et AI-våpenkappløp?

Vi står nå foran et avgjørende veiskille mellom statlig kontroll og teknologisk frihet.

Yrja Oftedahl

Grunder og påvirker

Foto: Don Feria / AP / NTB

​I 2021 ofret Dario Amodei (gründeren av Anthropic/Claude) karrieren da han forlot OpenAI for sine etiske prinsipper. I dag risikerer han hele selskapets eksistens – og milliardinvesteringene til giganter som Amazon og Google – i en historisk rettstvist med Pentagon.

Spørsmålet for oss i Norge fremover er følgende: Hvilken side av AI-splittelsen skal vi stå på?

Forrige uke kom det konkret til syne hvordan kunstig intelligens ikke lenger bare er et produktivitetsverktøy. Det er blitt geopolitikkens viktigste valuta. 

Anthropic ble fredag 27. februar svartelistet som “nasjonal sikkerhetsrisiko” av den amerikanske staten.

Vi står nå foran et avgjørende veiskille mellom statlig kontroll og teknologisk frihet. Utfallet vil tegne om hele det digitale verdenskartet i tiår fremover.

​Ultimatumet og søksmålet

​Bakgrunnen er følgende: Pentagon har stilt et ultimatum til Anthropic om å fjerne sine etiske sperrer slik at teknologien kan brukes til «alle lovlige formål» – inkludert masseovervåkning og autonome våpensystemer.

​Amodei har svart med et kontant nei. Han mener teknologien er for uforutsigbar til å ta beslutninger om liv og død.

Anthropic har svart på svartelistingen med å gå til søksmål mot staten for å stanse ordren. Dette er ikke lenger bare en diskusjon om etikk – det er en eksistensiell juridisk kamp om hvorvidt en stat kan tvinge private selskaper til å bli våpenprodusenter.

Les også

Prinsipper er ikke til for medvind

​Milliarder som innsats

​Dette er verdibasert ledelse tatt til det ekstreme. I 2021 ofret Amodei sin egen karriere og lønn. I dag setter han milliardinvesteringene til selskaper som Amazon og Google på spill. Han vedder hele selskapets fremtid på sine etiske prinsipper: At en uregulert kunstig intelligens utgjør en større global risiko enn risikoen ved å tape AI-kappløpet mot Kina – og de amerikanske rivalene.

To ledere, to vidt forskjellige retninger

Allerede samme dag som Anthropic ble svartelistet signerte OpenAI strategiske avtaler med Pentagon. Mens Sam Altman fjernet tidligere forbud mot militær bruk, har altså Dario Amodei valgt en helt annen vei.

Der OpenAI ser på militært samarbeid som en nødvendighet for nasjonal sikkerhet og videre vekst, ser Anthropic det som et svik mot selve formålet med sikker AI. 

Det som startet som en faglig uenighet mellom de tidligere kollegene, har nå blitt en kompromissløs kamp mellom prinsipper og makt.

Foreløpig ser Amodeis dristige veivalg ut til å betale seg på en måte få forutså. Samtidig som denne konflikten utspiller seg, har Claude klatret til førsteplass på App Store, og selskapet har nylig hentet svimlende 30 milliarder dollar i ny kapital – med en verdivurdering på 380 milliarder dollar. Dette er et bevis på at markedet og brukerne nå flokker seg rundt aktører de faktisk stoler på.

I en tid der mange frykter at "snille" selskaper taper mot kyniske giganter, er dette et eksempel på at markedet faktisk belønner integritet. Men om det holder i møte med Trump-administrasjonen, vil tiden vise.

​Det store AI-skillet

​For norske ledere og ansatte betyr dette at den "nøytrale" teknologiens tid er over. Markedet splittes nå i to:

De som ruster opp med militæret for å sikre vestlig dominans (OpenAI/xAI). Og de som setter teknologiske og etiske grenser, selv om det koster dem markedsmakt og statlig gunst (Anthropic).

​Valget som må tas

​Når vi velger KI-partnere og leverandører fremover, velger vi ikke lenger bare funksjonalitet. Vi velger hvilken verdisfære vår virksomhet skal operere i. Skal vi utstyre våre ansatte med verktøy designet for krigføring og overvåkning, eller verktøy bygget med en etisk grunnlov?

​Saken mellom Anthropic og Pentagon tvinger oss til å spørre: Er verdibasert ledelse mulig i et globalt AI kappløp når nasjonal sikkerhet og profitt står på spill? 

For Dario Amodei er svaret et dyrt, men et tydelig ja. 

For oss andre starter diskusjonen nå.

Hvis din virksomhet måtte velge mellom den kraftigste teknologien eller den mest etiske, hva ville veid tyngst hos dere?

Eller vil statlig makt og markedskrefter alltids trumfe etikk til slutt?

Les også

Trump raser mot AI-gigant