Hva skjer om vi lykkes med kunstig intelligens?

KRONIKK:  «Vi bør forvente at maskinene vil overta kontrollen,» konkluderteAlan Turing i 1951.  I denne teksten diskuterer en av verdens fremste KI-forskere, professor Stuart J. Russell, forskningens fordeler og farer.

Professor Stuart J. Russell var blant hovedtalerne under regjeringsbanketten i Oslo Rådhus i forbindelse med utdeling av Kavliprisene. Her gjengis  hoveddelen av hans tale i oversatt form:

I århundrer har vitenskapen blitt ansett for å være et utelukkende gode. Ofte av forskerne selv, vel å merke.

På sitt aller beste, er vitenskapen en søken etter det som er sant. Dens virke og utvikling beriker menneskeheten. Kunnskap er vitterlig bedre enn ignoranse. Å forstå er bedre enn forvirring og vrangforestillinger.

Vitenskapen har medvirket til utviklingen av teknologier, som over et par århundrer har gitt en tretten ganger høyere inntekt per innbygger, globalt. Og hundre ganger større produksjon, globalt. En konsekvens er at flere hundre millioner kan nyte strålende liv med høy kvalitet.

Så det er både rett og riktig at vi gjør ære på disse enestående forskerne, hvis bidrag ble berømmet i dagens prisseremoni. Gratulerer enda en gang til prisvinnerne.

Vi takker også Kavlistiftelsen for støtten den gir til vitenskapen verden over og for prisene som ble utdelt i dag, som styrker bevisstheten om nanovitenskap, nevrovitenskap og astrofysikk. På nesten lik linje som visse andre priser har gjort for kjemi og biologi, når de har blitt utdelt i Stockholm.

Men, det finnes milliarder av mennesker som ikke får nyte det gode liv som vitenskapen har muliggjort. For noen skyldes det dårlig helse, noe vitenskapen kan motvirke. Men for de fleste skyldes det massiv strukturell ulikhet – både innad og på tvers av nasjoner. Dette kan vitenskapen gjøre lite med.

Og så er det problemet med misbruk. Som vitenskapsfilosofiens grunnlegger, Francis Bacon, bemerket i 1609: «De mekaniske kunster er av tvetydig nytte, både til skade og lindring.»

Vi kan se en slik skadevirkning med klimaendringene, som begynte med termodynamikk og jakten etter energi, og vi kan se det i utviklingen av atomvåpen, som sprang ut av forsøk på å besvare fysikkens grunnleggende spørsmål.

Bekymringen for de samfunnsmessige skadevirkningene har også ført til for lengst etablerte restriksjoner på genmodifisering, og potensielt kommende restriksjoner på nevroteknologi.

Disse er bare noen av spørsmålene som blir behandlet ved de to nye Kavlisentrene for etikk, vitenskap og offentlighet, ved Berkeley og Cambridge.

Prisvinnerne ledsages ned trappen og tas i mot av bankettens gjester. (Foto: Thomas B Eckhoff / Kavliprisen)

Kavliprisen 2024

Tirsdag 3. september ble Kavliprisen for 2024 tildelt følgende forskere:

• Astrofysikk: David Charbonneau (Canada/USA) og Sara Seager (Canada/USA)
• Nanovitenskap: Robert S. Langer (USA), Armand Paul Alivisatos (USA) og Chad A. Mirkin (USA)
• Nevrovitenskap: Nancy Kanwisher (USA), Winrich Freiwald (Germany) og Doris Tsao (USA)

Kavliprisene hedrer forskere for gjennombrudd innen astrofysikk, nanovitenskap og nevrovitenskap – som forvandler vår forståelse av det store, det små og det komplekse.

(Kilde: https://www.kavliprize.org/)

Og hva gjelder mitt eget felt, kunstig intelligens: I 80 år har vi prøvd å skape overmenneskelige maskiner. Hva om vi lykkes? Hvordan skal vi klare å beholde makten fremover, overfor vesener som er langt mektigere enn oss?

Alan Turing, grunnleggeren av datavitenskapen, drøftet dette spørsmålet i 1951 og konkluderte med at «vi bør forvente at maskinene vil overta kontrollen.» Stor skade, med andre ord – og i stort monn.

Argumentet er enkelt nok: KI-systemer er designet for å forfølge visse mål, og hvis disse målene ikke er på linje med med menneskehetens, taper vi.

På den andre siden: å justere alle mål helt perfekt synes umulig, noe du finner ut så fort du får tre berømte ønskene fra ånden i lampen. Det tredje ønsket er alltid «vær så snill å omgjøre de to første ønskene, jeg har jo ødelagt universet».

Det finnes imidlertid en annen vei: å lage maskiner hvis eneste mål er å tjene menneskenes interesse, men som vet at de ikke vet hvilke interesser dette er.

De kan lære mer ved observasjon og kommunikasjon, men likevel holde seg ydmyke. Denne ydmykheten kan oversettes til matematiske garantier, deriblant den vesentlige garantien om at maskinen alltid går med på å bli skrudd av.

Fra dette kan en kan trekke en lærdom for vitenskapene generelt. På samme måte som KI-systemer, bør også vi forskere være ydmyke. 

Vi må lære fra menneskeheten hva menneskeheten vil ha og ikke vil ha. Vi må ikke lære fra selskaper som bare vil maksimere profitt, ei heller fra myndigheter som iblant søker måter å kontrollere og bryte ned. I stedet må vi lære av menneskene.

(Talen er oversatt av Frithjof Eide Fjeldstad / Forskning.no)