Superintelligens under Trump?

Donald Trump har lovet å fjerne begrensningene som Biden-administrasjonen har pålagt de store KI-selskapene.

Dette kan potensielt fremskynde utviklingen av superintelligent KI.

– Dersom USA utvikler AGI under Trump, kan han potensielt løse alle USAs problemer, dersom Trump velger å stole på den.

Dette forteller Inga Strümke til NRK. Hun er landets fremste KI-ekspert og han skrevet bestselgeren «Maskiner som tenker».

– Hvis denne maskinen faktisk er superintelligent og vi tenker at intelligens er evnen til å nå mål, vil han ha en maskin som kan fortelle ham akkurat hva han må gjøre for å nå målene sine, forklarer hun.

AGI er det hypotetiske neste steget for kunstig intelligens, hvor en maskin lærer seg å tenke like bra som et menneske, eller bedre.

En slik AGI vil ha oversikt over alt man kan ha oversikt over ved hjelp av data.

– Det kan jo være at en AGI kan fikse opp i all ineffektivitet i offentlig sektor, ordne skattesystemet, og skape en balansert økonomi. Kanskje skaper AGI et godt og effektivt helsevesen også, forteller Strümke.

Superintelligens neste år?

Ekspertene er uenige i hvor nær vi er AGI, men enkelte hevder det kan skje allerede de neste fire årene, altså under Trump.

Nøyaktig hva AGI er, diskuteres aktivt i KI-miljøet.

– Slik jeg forstår AGI, er det en superintelligent maskin som også forstår intensjonen bak målene den blir satt til å løse, sier Strümke.

Lederne for de to største amerikanske KI-selskapene er veldig optimistiske. Sam Altman, lederen for OpenAI, hevdet forrige uke at AGI vil være tilgjengelig allerede neste år.

Mens sjefen for Anthropic, OpenAIs største konkurrent, spådde at vi kanskje vil oppnå AGI innen 2027 i podkasten til Lex Friedman forrige uke.

Men selv om vi snart kan være i stand til å skape AGI, er det ikke alle som mener vi bør.

Max Tegmark, KI-forsker og forfatteren av KI-boken «Life 3.0», gikk ut og advarte mot å utvikle AGI. Han mener alle selskaper som jobber med KI bør bremse opp før vi kommer dit.

AGI under Trump

Strümke mener det er lite konkret som tilsier at AGI er så nært forestående som OpenAI og Anthropic hevder.

Men hun mener likevel det er viktig at vi snakker om AGI nå.

– Jo mer politisk usikker verden er, jo mer skade kan en disruptiv teknologi kunne forårsake, forklarer hun.

– Fra et faglig ståsted synes jeg AGI har begrenset interesse, men jeg forstår at flere vil diskutere det fordi konsekvensene er enda mer uforutsigbare i en ustabil verden.

Amerika først

Dersom USA utvikler denne teknologien de neste fire årene, vil Trump la denne teknologien komme hele verden til gode?

Han er ofte blitt beskyldt for å se på verden som et nullsum-spill. Altså at det som tjener én nødvendigvis vil gå på bekostning av en annen.

Trump kan velge å ikke dele AGI med verden for å gi USA en fordel.

– Den som har det mest intelligente verktøyet, vil være best i stand til å oppnå målene sine, om så på bekostning av andre, advarer Strümke.

Morten Goodwin er ekspert på KI og professor ved Universitetet i Agder.

Han tror Trump vil ha mange insentiver til å ikke dele teknologien med omverdenen dersom USA utvikler AGI.

– Han kommer til å ville holde denne teknologien tilbake, helt tydelig. Siden Musk er med på laget så vil det være fokus på utvikling av kunstig intelligens, og det kommer han til å sette til fordel for sitt eget land.

Goodwin påpeker at dette ikke er unikt for Trump, men noe de fleste statsledere ville gjort.

– Hvis man utvikler AGI, som er langt fra sikkert, så får man et helt enormt kraftig verktøy som vil påvirke store deler av samfunnet, som USA vil ha kontroll på, forteller Goodwin.

Han sammenligner det med utviklingen av atombomben, en teknologi som USA hadde monopol på noen år.

– Det vil kunne gi dem enorme fortrinn i krig, offentlig sektor og spionasje. Dette er en teknologi som påvirker veldig mye. Det er nesten som elektrisitet eller datamaskiner, påpeker han.

Goodwin tror det er realistisk at det kommer, men om det er fire år eller tjue år vet han ikke.

Dersom Trump hengir seg til AGI-en vil ikke nullsum-filosofien hans komme i veien, tror Strümke.

– Mitt syn på intelligens er at når du har høy intelligens, skjønner du at de fleste spill i virkeligheten ikke er nullsumspill, forteller hun.

– Den trenger ikke overbevise ham om dette, han trenger bare å stole på den.