AI-milliarder pøses inn i forsvarsindustrien

Samtidig får risikokapital en stadig større plass. – Vil uten tvil påvirke, sier professor som frykter at etikken blir satt på sidelinjen.

En prototype av den fremtidige AI-droneflåten til det amerikanske forsvaret vises frem på et testanlegg i California i mai 2024. Foto: Damian Dovarganes / AP / NTB

– Det har vært et sterkt press fra selskapene på å forme og veilede myndighetenes politikk, skriver Elke Schwarz i en e-post til E24.

Hun er professor i politisk teori ved Queen Mary University of London, og forsker blant annet på etikk, AI og teknologi.

I en fersk artikkel har hun undersøkt hvordan venture capitalventure capitaloversettes ofte til risikokapital på norsk. Betegner investeringer med stor risiko for tap, ofte i oppstartsfirmaer. Den høye risikoen er knyttet til potensielt høy avkastning. -bransjen får stadig større innflytelse på den amerikanske forsvarsindustrien.

– Den største risikoen er at etikken blir satt på sidelinjen eller presset enda lenger ut på ytterkantene når man skal vurdere mulige skader av AI-aktiverte våpensystemer.

«Større ødeleggelsespotensial»

I kampen om det militære overtaket blir kunstig intelligens sett på som nøkkelen til å vinne fremtidige kriger. Betydningen av AI har også blitt fremhevet av den norske regjeringen.

«Nye teknologiske gjennombrudd kan gi økt rekkevidde, større ødeleggelsespotensial og bedre presisjon for våpensystemer», skrev daværende forsvarsminister Bjørn Arild Gram (Sp) høsten 2023.

Da la regjeringen frem sin «Strategi for kunstig intelligens i forsvarsektoren». Formålet med denne er å sikre at kunstig intelligens kan tas i bruk «hurtig, i stor skala og på flere områder» i tråd med prinsipper for ansvarlig bruk.

– Et enormt lukrativt marked

Schwarz har tatt for seg utviklingen i USA, der det brukes stadig mer penger på AI i forsvaret.

Den potensielle verdien av forsvarskontrakter for AI-relatert teknologi økte fra 355 millioner dollar til 4,561 milliarder dollar i perioden august 2022 til august 2023, ifølge tenketanken Brookings Institution. Det er en økning på nesten 1200 prosent.

Ifølge The Wall Street Journal har hundrevis av nye selskaper entret markedet det siste året. De lager alt fra droner og miniutbåter til hypersoniskehypersoniskeflyr fem ganger raskere enn lyden missiler og fly.

– Med forsvarsbudsjetter som vokser over hele verden, er utsiktene for militærteknologiske oppstartsselskaper til å ta en andel av et enormt lukrativt marked bedre enn noen gang, sier Schwarz.

Oppstartselskaper tiltrekker seg ofte risikokapital. Det fører til at investorene pusher på for raskere utvikling og mer risikotaking, ifølge professoren.

– Det medfører risiko når man tester produktene i en levende kontekst. AI-selskaper trenger data for å bygge, teste og prøve ut sine produkter.

Pågående konflikter muliggjør slik utprøving.

– Mange selskaper er ganske åpne om dette. Å behandle en konflikt som et laboratorium er risikofylt, spesielt for dem på mottakersiden av systemet.

Programvaren Lattice Mission Autonomy fra selskapet Andruil demonstreres på en konferanse i september i fjor. Den gjør det mulig for et enkelt menneske å kontrollere og koordinere «et bredt spekter av autonome eiendeler over hav, på land og i luften», ifølge selskapet Andruil, som står bak. Både Andruil og konkurrenten Shield AI støttes av flere hundre millioner risikokapital. Foto: Alex Brandon / AP / NTB

Schwarz gir et ferskt eksempel fra krigen i Ukraina.

– I april og mai i fjor ble det rapportert at noen av de amerikanske dronene i Ukraina ikke var særlig nyttige. De gjorde feil, var vanskelige å reparere og ble ofre for russisk elektronisk krigføringrussisk elektronisk krigføringInnebærer blant annet såkalt "jamming" der utsending av radiostøysignaler for å forstyrre, stenge eller hindre mottak av signaler fra en annen stasjon som gjør at kommunikasjons- eller navigasjonssystemer blir slått ut eller mister sin funksjon. .

I etterkant har de amerikanske droneselskapene jobbet med forskjellige versjoner av produktet, sier Schwarz.

– Du kan forestille deg at dette ikke var helt optimalt i en live kontekst.

– Vil kreve stramt rammeverk

Siden 2021 og frem til midten av 2024 er det blitt investert rundt 130 milliarder dollar risikokapital i forsvarsteknologiske startup-selskaper, ifølge The Wall Street Journal, som gjengir tall fra analyseselskapet Pitchbook.

En lignende trend er merkbar i Europa, der milliarder blir sluset inn i selskaper som blant annet utvikler droner med AI-teknologi.

– Det går ikke like fort i Europa, men det er tegn på at det går mot et kulturelt skifte her også. Dette skyldes kanskje at en betydelig andel av investorene i europeiske oppstartsselskaper er fra USA, sier Schwarz.

Hun påpeker at hun ikke mener å si at bruk av risikokapital alltid er en dårlig idé med hensyn til militærteknologi eller at det er uunngåelig at det skaper problematiske utfall.

– Det er ikke tilfelle. Men det vil kreve et ekstremt stramt rammeverk og en vilje til mer innsyn for å investere «ansvarlig» i militær AI-teknologi.

Oppmerksomme på «stor hastighet»

E24 har spurt forsvarsminister Tore O. Sandvik (Ap) om norske myndigheter har oversikt over hvilke vurderinger som er tatt i utviklingen av AI-systemer som er eller vurderes tatt i bruk av det norske forsvaret.

Det svarer ikke statssekretær Andreas Flåm på, men skriver at «ytterligere konkrete spørsmål» om vurderinger som er tatt i utviklingen av AI-systemer må rettes Forsvaret.

Ifølge Flåm er regjeringen oppmerksomme på «stor hastighet» i utviklingen av kunstig intelligens, og at denne i likhet med mye annen utvikling er sterkt drevet av privat kapital.

For øvrig legger han vekt på at departementet ønsker privat kapital til forsvarsindustrien, og skriver at «det er synd» om banker og investorer vegrer seg for å investere i denne.

Flåm minner om at Norge har forpliktet seg til å avgjøre om utvikling, anskaffelser eller godkjenning av nye våpen, krigføringsmetoder eller - virkemidler er forbudt i henhold til folkerettenfolkerettenregler som gjelder i krig og væpnet konflikt. Dette kravet vil også være gjeldene når kunstig intelligens anvendes, skriver Flåm.

– Ny aktør i miksen

Risikokapitalbransjen følger en annen logikk enn andre aktører i forsvarsektoren, sier Schwarz.

– En ny finansiell aktør med i miksen gjør at det er både er ulike måter å tenke på og krav til avkastning på investeringer, som uten tvil vil påvirke industrien.

Etter å ha forsket på autonome våpensystemer det siste tiåret, slo det henne at diskusjonen om hva forsvar er og hvordan det bør være, begynte å forandre seg. Inn kom stemmer fra tek-bransjen som hevdet at forsvarsindustrien var for treg og lite effektiv.

Et kjent mantra i tek-bransjen om å «bevege seg raskt og ødelegge ting»«bevege seg raskt og ødelegge ting»"move fast and break things" er blitt tilskrevet Facebooks toppsjef Mark Zuckerberg fra selskapets tidlige dager, men senere blitt omtalt som et slags uoffisielt motto for tek-bransjen i Silicon Valley for å oppnå innovasjon, kan bli farlig i forsvarsindustrien, ifølge professoren.

– Det ser ut til å akselerere et fryktelig dehumanisert perspektiv på krigføring, som forutsetter at konflikt kan løses med nok overvåking og større kapasitet for dødelighet. Dette misforstår hva krig er, hva de bakenforliggende årsakene er og hvordan den kan ta slutt, sier hun.