Han vil lære undervannsroboter å frykte døden

Da forsker Jens Einar Bremnes så den Oscar-belønte science fiction-filmen Interstellar merket han seg spesielt én replikk. 

Matt Damons rollefigur Dr. Mann sier: «En maskin kan ikke improvisere særlig godt fordi det ikke går an å programmere inn redsel for døden.»

Men kanskje er det mulig? 

For Bremnes er dette ikke et hvilket som helst spørsmål. Det er grunnlaget for hans forskning i marin kybernetikk ved NTNU. Han fullførte doktorgraden sin der våren 2024.

Nå jobber forskeren med autonome undervannsroboter ved Forsvarets forskningsinstitutt (FFI). Spørsmålet er like relevant her. 

Slike roboter kan kjøre oppdrag under is, langs kysten og i dyphavet. De kan dessuten samarbeide med andre fartøy under vann, på overflaten og i lufta. 

Men de må lære å passe seg.

Et viktig spørsmål for FFI er hvordan disse robotene kan operere smartere og bedre håndtere farene de møter. Inkludert muligheten for at de kan dø. 

Kan de utstyres med et «jeg vil overleve»-instinkt? 

Bremnes og andre forskere ved FFI samarbeider med andre om lignende prosjekter. I et eget prosjekt på NTNU er målet å utvikle autonome roboter som kan patruljere havområder.

Dessverre ikke redd

Bremnes innrømmer at det er en stor utfordring å få roboter til å forstå risiko. Risiko handler om å svare på spørsmålene: Hva kan gå galt? Hva er konsekvensene? Hvor sannsynlig er det?

– I vårt tilfelle handler det for eksempel om at vi ikke vil at en undervannsfarkost som «Hugin» skal kræsje eller forsvinne. Den vil det neppe selv. Noe uventet kan likevel gjøre at den blir skadet, setter seg fast eller rett og slett forsvinner sporløst. 

Undervannsfarkosten «Hugin» er på vei ut i Mjøsa for å jakte på dumpet ammunisjon. (Foto: FFI)

Han forklarer at en AUV nettopp er det den engelske forkortelsen sier, en «Autonomous Underwater Vehicle», altså selvgående. Den har liten eller ingen kontakt med mennesker på overflaten når den er på oppdrag. Forholdene der den skal operere, er ofte ukjente. 

– Det er derfor vi trenger at den er litt smart. I dag er den dessverre ikke redd for å dø, sier han.

Fjellvett under vann

Flere sikkerhetsmekanismer er på plass i AUV-ene. En Hugin som møter en uventet hindring, vil for eksempel forsøke å svinge unna. Kommer den for nær avbryter den oppdraget.

– Da slipper den et lodd som gjør at den stiger til overflaten og kan hentes av oss. Selv om dette er en viktig nødløsning, vil vi likevel at den i framtida skal tenke mer som en fjellvandrer.

Nettopp fjellvettreglene er en god rettesnor også for AUV-er. «Hugin» har en del å hente fra dem, mener Bremnes.

– Sammenliknet med hva et fjellvant menneske vil gjøre, nemlig å sjekke kartet, bruke øynene, vurdere terreng, værforhold og være villig til å improvisere, har «Hugin» fortsatt mye å lære, sier forskeren.

«Hugin» er en autonom undervannsfarkost. Her er den på vei for å lete etter dumpet ammunisjon i Mjøsa. (Foto: FFI)

Han forteller at det kastes bort mye tid når uhell skjer med farkosten. Det blir litt som å få panikk på vei ned et stup og ringe etter hjelp først da. 

– Det beste er jo å unngå stupet. Vi vil at autonome farkoster skal tenke slik som fjellvandreren: «Hvilke alternativer har jeg nå? Bør jeg endre planen min?».

Taufast i Portugal

Under en nylig Nato-demonstrasjon i Portugal, sammen med Kongsberg Discovery og Sjøforsvaret, støtte en på et problem der «Hugin» faktisk ikke kom seg opp. Den viklet seg inn i et tau. 

Dette var på et sted hvor det viste seg at det sto mye fiskeredskap. Så hvordan kan utviklerne lage algoritmer som gjør at farkostene lærer seg både å gjenkjenne risikoer, finne ut hva de skal gjøre og hvor store sjanser de bør ta i slike områder?

I dag er det menneskelige operatører som løser mange av de flokene en AUV kan vikle seg inn i, forteller Bremnes.

– Typisk forhåndsprogrammerer vi AUV-en til å bruke sonar for å kartlegge bunnforholdene og oppdage interessante objekter, for eksempel miner. Deretter lager vi en ny plan for hvordan den skal kjøre så nær som mulig de oppdagede objektene for å kunne undersøke dem med kamera. Det innebærer gjerne å komme veldig tett på havbunnen, sier Bremnes.

Han forklarer at operasjonen krever erfaring. Den kan likevel gi oss skumle situasjoner siden vi ikke alltid vet hvordan forholdene er på forhånd. 

I Portugal måtte forskerne ut i sjøen og skjære «Hugin» løs fra tauet. I en ideell autonom verden burde systemet selv tilpasse planen og finne ut hvor det er tryggest å kjøre, og hvor nært en tør å gå. 

Eventuelt at farkosten selv rett og slett bestemmer seg for at risikoen er for høy. 

– Når det er sagt: AUV-en bør ikke bli for skremt, heller. Den skal tross alt utføre en oppgave, sier han.

Bedre og bedre vurderingsevne

Lista over mulige vansker er lang. 

En uventet oppstigning i trafikkert farvann kan føre til kollisjoner med andre fartøy allerede idet den bryter overflaten. 

Hvis det er sterk strøm i området kan en AUV uten egen vurderingsevne ende opp med å svømme sidelengs samtidig som den følger sin fastlåste rute. Resultatet er dårligere datafangst.

– Ved FFI jobber vi hele tida med å gjøre AUV-en smartere. Der en før måtte programmere hele oppdraget i detalj, er «Hugin» nå i stand til helt autonomt å kartlegge og finne miner i et område. Den bruker kunstig intelligens for å gjenkjenne minene. Den forstår om den har samlet gode eller dårlige data, og den er i stand til å planlegge oppdraget selv basert på hvordan terrenget ser ut,  forteller Bremnes.

Hvordan overleve Oslo–Nordkapp

Utviklingen av AUV-er krever likevel noe som gjenspeiles i et annet Matt Damon-sitat fra den nå ti år gamle Interstellar: «Overlevelsesinstinktet er menneskets største inspirasjonskilde.»

Det instinktet bør også være på plass i en kostbar Hugin når den legger ut på selvstendige tokt som kan vare i ukesvis. 

«Hugin Endurance» er Kongsberg Discoverys nyeste og største modell. Det er en ti meter lang farkost med ekstrem rekkevidde. Driftstiden er på opptil 15 dager. 

«Endurance» kan i prinsippet slippes ut i Oslofjorden og ta seg til Nordkapp uten opplading eller støtte fra overflateskip.

Ifølge Kongsberg Discovery kan denne høyteknologiske maskinen samle inn detaljerte data om hva det skal være fra både havbunn, undervannsobjekter og i selve vannkolonnen, altså i alt vannet fra overflaten til bunnen.

Tenke selv

– Jo større kapasitet AUV-ene får, jo viktigere er det at de tar gode beslutninger på egen hånd, sier Bremnes.

Han sier det er som å lære roboten å gå i fjellet, bare at turen går under vann. Maskinen må planlegge godt på forhånd. Den må melde fra om hvor ferden går, tilpasse seg forholdene den møter underveis, være forberedt på det verste og kunne snu i tide. 

Bremnes sier at det på lange, selvstendige tokt et helt nødvendig at farkostene kan oppdage feil og farer på egenhånd, og handle ut fra dem.

Føre var mot fare

Forskeren mener  undervannsroboten ideelt sett bør ha en føre var-tankegang.

Det er alltid bedre at den unngår en farlig situasjon enn at den reagerer først når situasjonen oppstår, for eksempel ved at den må slippe loddet og stige opp. 

I tillegg bør den ha en egen evne til å tolke risiko. 

Maskinen bør altså forstå hva som kan gå galt, hva følgene kan være og hvor sannsynlig det er slik at den kan veie ulike alternativer opp mot hverandre.

– Forskningen vår handler om å ta små steg om gangen. Mye av det vi gjør, skjer ved hjelp av simuleringer på skjerm. Vi drar også ut på tokt noen ganger i året for å se hva som skjer i virkeligheten. Vi lærer veldig mye på den måten, sier han.

Undervannsfarkosten Hugin kan operere på egen hånd uten en fysisk forbindelse til et skip eller ved bruk av en fjernkontroll. (Foto: FFI)

Akkurat som for oss mennesker, er det grunnleggende å unngå ting som leder til farlige situasjoner. Det tryggeste er som kjent å ligge helt i ro. 

– Det kan verken vi eller robotene tillate oss hvis jobben skal gjøres. Likevel kan det være lurt å programmere robotene til å være litt reddere for å dø, sier Jens Einar Bremnes.

Program som beskytter

Men kan maskiner bli dødsredde?

– Det er ingen grunn til at programmering ikke skal få noe til å beskytte sin egen eksistens. Det er likevel nokså forskjellig fra menneskers frykt for døden. Frykt er en følelse, ikke et logisk element. Du kan ikke programmere følelser. Ikke ennå, iallfall. Men jeg tror absolutt at en kan innprogrammere en litt mer følelsesløs frykt for døden, mener han.

Referanse:

Jens Einar Bremnes: Safe Autonomy in Marine Robotics. Doktoravhandling ved NTNU, 2024. Sammendrag.