Forsker om AI-avtale: – Den som leder kappløpet, vil bli militært overlegen

3 days ago 14

Pentagon har inngått avtale med teknologigiganter for å styrke den militære kapasiteten. Frykten er tap av kontroll, mener forsker.

Julie Grasmo

Oppdatert torsdag 7. mai kl. 00:44

Pentagon har inngått en avtale med åtte store teknologiselskaper, for å styrke det amerikanske forsvaret.
Avtalen har utløst en boikottkampanje mot ChatGPT, støttet av kjente personligheter.
Teknologiselskaper kan få mer makt enn Pentagon i beslutninger om krigføring, advarer NUPI-forsker.

– Den som leder teknologikappløpet, vil bli militært overlegen.

Det sier NUPI-forskeren Niels Nagelhus Schia, etter at Pentagon forrige uke inngikk en avtale med flere teknologiselskaper.

Ifølge Pentagon skal avtalen gi tilgang til et mangfoldig utvalg av AI-funksjoner, som skal gi soldater de verktøyene de trenger «for å handle med selvtillit og beskytte nasjonen mot enhver trussel».

Niels Nagelhus Schia

Leder for Forskningsgruppen for sikkerhet og forsvar og leder for NUPIs senter for forskning på ny teknologi.

De åtte selskapene som Pentagon har inngått avtalen med, er:

Google
Microsoft
Amazon
Nvidia
OpenAI
Reflection
Space X
Oracle

Schia forklarer at Pentagon forsøker å få et fortrinn i militærmakt.

Han viser til at de som har den beste teknologien, kan bli militært sterkere enn andre. Det er fordi man får et forsprang i å forstå situasjoner bedre, velge mål raskere og ta i bruk mer avanserte våpen.

Men det kommer ikke uten risiko.

Chatbot skal håndtere myndighetsarbeid

ChatGPT signerte kontrakten med Pentagon allerede i slutten av februar. I en uttalelse sier en talsperson at «folkene som forsvarer USA bør ha de beste verktøyene i verden», ifølge BBC.
Selv om Googles Gemini allerede har vært i bruk hos den amerikanske regjeringen, vil dette være første gang chatboten skal brukes til å håndtere myndighetsarbeid på klassifisert nivå.

Både Nvidia og Reflection skal levere åpen kildekode-modeller til amerikanske myndigheter.
Microsoft og Amazon har også i flere år levert skytjenester til den amerikanske regjeringen.
Oracle sier at deres løsninger gjør det nå mulig for forsvarssektoren å utvikle, distribuere og skalere ulike AI-modeller uten å være bundet til én leverandør, skriver BBC.

Det var i januar at forsvarsminister Pete Hegseth presenterte en ny plan i Pentagon for å satse mer på AI. Den gang sa han at planen skal gjøre det lettere å teste ny teknologi, fjerne unødvendig byråkrati, øke investeringer og sørge for at USA leder utviklingen av militær AI i fremtiden.

Boikottkampanje

Avtalen mellom OpenAI og Pentagon har skapt reaksjoner.

En boikottkampanje, «QuitGPT», oppfordrer folk til å slutte å bruke ChatGPT. Ifølge Euronews har mer enn 1,5 millioner mennesker deltatt i kampanjen.

Blant disse er sangeren Katy Perry og skuespilleren Mark Ruffalo.

Schia forklarer at bruken av AI i krig er ganske ny, noe som fører til at man ikke kjenner konsekvensene.

– Men noe vi kan se, er hvordan det blir brukt i krigen i Ukraina, som autonome våpen, beslutningsstøtte, målutvelgelse, logistikk og ansiktsgjenkjenning, sier han.

Schia sier at på den ene siden kan AI gjøre krig mer effektivt ved bruk av selvstyrte våpen som kan redusere menneskelige tap og lidelser.

– På den andre siden kan man se for seg at teknologien blir så kraftig og tar beslutninger så raskt at menneskene mister oversikt og faller ut av beslutningskjeden og ansvarskjeden, sier han.

Ifølge Schia kan AI gjøre det vanskeligere å følge internasjonale lover og regler i krig.

Vil du boikotte ChatGPT etter Pentagon-avtalen?

aJa bNei cBryr meg ikke

Helen Toner er direktør ved Georgetown Universitys senter for sikkerhet og teknologi.

Til AP forklarer hun at mye av den moderne krigen skjer gjennom et kontrollrom, der AI brukes til å samle informasjon og finne mulige mål i overvåkningsdata.

Dersom det amerikanske forsvaret stoler for mye på AI, kan de miste forståelse og kontroll over beslutningene som blir tatt, advarer hun.

Tek kan få mer makt enn Pentagon

Kunngjøringen av avtalen kommer samtidig som det pågår en rettssak mellom teknologiselskapet Anthropic og Pentagon.

De har tidligere samarbeidet, men i februar ble avtalen brutt.

Pentagon ønsker å bruke selskapets verktøy med ubegrenset tilgang. Sjefen for Anthropic, Dario Amodei, sier han ikke kan med god samvittighet godta Pentagons krav.

Anthropic vil ikke at teknologien deres skal brukes til utvikling av selvstyrte våpen og overvåkning av mennesker.

Ifølge Schia viser dette hvordan teknologiselskaper kan få mer makt enn staten og Pentagon.

– Dersom Anthropic vinner, så er det private selskapet med å bestemme hva som er greit i krigføring. Vi er vant til at det er de folkevalgte som tar de beslutningene, sier Schia.

Read Entire Article