KI-verktøy fant barnebildet av meg som jeg aldri har sett før

Jeg kunne aldri sett det for meg.

Ingen av kollegene mine kjente meg igjen heller.

Men jeg så det med en gang. Jeg husker godt den Arsendaldrakta.

Jeg kan ikke ha vært mer enn 13 år på det bildet. Et bilde jeg tror jeg aldri har sett før.

Det dukker ikke opp i Google-søk og det er heller ikke posta på sosiale medier.

Men bildet finnes et sted på internett.

For det tok ansiktsgjenkjennings­programmet PimEyes bare noen sekunder å finne det.

Jeg lasta opp et bildet av meg som 24-åring. Det var alt programmet trengte for å vise meg barnebildet, som til nå har vært helt ukjent for meg.

Det kom også opp flere andre bilder av meg i ulike aldre. Det var som å se på et slags kart over begivenheter i livet mitt.

Alt dette klarte den, kun med et gammelt svart-hvitt bilde.

Flere milliarder bilder

PimEyes omtales som ansiktsgjenkjenning på steroider.

De har ansiktstrekk av folk over hele verden i en database.

Ifølge selskapet kommer ansiktstrekkene fra nettsider, som for eksempel norske aviser, konferansesider eller blogginnlegg.

Selskapet hevder de ikke skraper bilder fra sosiale medier, som Facebook og Instagram.

I 2023 fortalte administrerende direktør, Giorgi Gobronidze, til New York Times at de hadde nærmere 3 milliarder bilder av ansikter, og at de genererte opptil 118 tusen søk per dag.

Ansiktsgjenkjennings-programmer bruker biometriskdata og kunstig intelligens for å sammenligne ansiktstrekk. Teknologien gjør det mulig å finne bilder av folk som matcher med det, som er lasta opp.

Det finnes flere programmer som gjør dette.

PimEyes ber deg kun laste opp bilder av deg selv.

Men det er ingen tekniske løsninger som hindrer deg fra å laste opp bilder av andre.

– Jeg fikk gåsehud med en gang, sier forsker på digital etikk, Leonora Bergsjø, da jeg forteller henne om barnebildet.

Selskapet hevda nemlig for flere år siden, at de av sikkerhetshensyn hadde fjerna bildesøk av barn. I sine egne retningslinjer skriver selskapet at de ikke behandler bilder av barn for å beskytte dem mot mulig misbruk.

Flere barnebilder

Likevel dukka barnebildet av meg opp. Og jeg er ikke den eneste.

Jeg lasta opp bilder av fire tilfeldige kolleger, med deres tillatelse. I et av forsøkene fikk jeg opp nok et barnebilde.

Tobias Judin, seksjonssjef i Datatilsynet, mener det er dypt problematisk.

– Jeg syns det er en kjempe-creepy tjeneste, sier Judin til NRK.

Ifølge New York Times bruker PimEyes kunstig intelligens for å selektere bort barn fra søkemotoren. Gobronidze sa til avisen at teknologien fungerer bra på barn under 14 år, men at KI-en sliter med å skille ut bilder av tenåringer.

NRK har stilt PimEyes en rekke spørsmål. Vi har hittil ikke fått svar fra selskapet.

Mister kontrollen

Det er en rar følelse.

Et dataprogram vet noe om meg. Et sted jeg var, uten at jeg selv kan huske det.

Jeg måtte finne ut hvor barnebildet kom fra og skaffet meg betalingsløsningen.

Det viste seg at det var lokalavisa mi Moss Avis, som hadde publisert bildet, trolig tatt på en eller annen fotballskole.

Det er mulig jeg eller mine foreldre samtykka den gangen til at bildet ble publisert i avisa. Jeg vet ikke.

Men at jeg femten år senere skulle finne det på denne måten, var det nok ingen av oss som så for seg.

Naomi Lintvedt, stipendiat i rettsinformatikk ved UiO, forteller at teknologi som dette gjør at vi mister en vesentlig del av kontrollen over egen informasjon.

– For barn betyr dette at bilder av dem blir tilgjengelig hele tida. Kanskje også bilder du selv kunne ønske ikke var tilgjengelig når du blir eldre, sier hun.

– Mange mener at dette er et veldig alvorlig inngrep i personvernet. Retten til eget bilde er en sterk del av personvernet.

Hun forteller at mange er flinke til å begrense bildebruken i sosiale medier og er selektive med hvilke bilder de legger ut. Men, ikke alle tenker over at også bilder som er publisert av aviser eller på nettsider er enkelt å finne igjen.

Det kan være nok at du står blant mange andre på en skoleavslutning, er på et loppemarked eller på en fotballturnering.

– Du har jo egentlig ikke kontroll over hvor bilder av deg havner og hva de blir brukt til, sier hun.

Fant kriminell på rømmen

PimEyes er åpent tilgjengelig for alle.

Journalister bruker programmet for å identifisere og finne personer av offentlig interesse.

I fjor klarte tyske journalister fra TV-kanalen ARD å spore opp Daniela Klette, et tidligere medlem i den venstreekstreme gruppen Røde Armé Fraksjon (RAF), ved hjelp av PimEyes.

Ifølge Reuters fikk de dette til et år før politiet pågrep henne. Klette var mistenkt for å ha begått en rekke ran og minst ett drapsforsøk mellom 1999 og 2016, og hadde levd 30 år i skjul.

Men ansiktsgjenkjennings-programmer kan enkelt misbrukes, advarer Judin i Datatilsynet.

– Det her kan bli brukt til å «stalke» folk.

– Se for deg en kontrollerende kjæreste eller ektefelle som vil finne ut hvor eksen befinner seg og bruker dette verktøyet og får opp bilder av vedkommende, skjønner fra bakgrunnen hvor de er, og går inn for å oppsøke dem, sier Judin.

Flytta selskapet ut av Europa

Flere har også stilt spørsmål om selskapets praksis i det hele tatt er lovlig.

PimEyes ble starta av to polske utviklere i 2017. Selskapet ble senere solgt og flytta ut av Europa.

Big Brother Watch hevder selskapets innsamling av biometriske data er ulovlig. I 2022 sendte de inn en rettslig klage mot selskapet til det britiske datatilsynet.

– Her har vi å gjøre med et selskap som holdes utenfor EU. Hvis man tenker at de er underlagt våre personvernlover, så er det ikke noe ved dette som høres lovlig ut, sier Judin i Datatilsynet.

Ansiktsgjenkjenning til bruk for å identifisere noen, faller innenfor bestemmelser i Personvernforordningen (GDPR).

– Det betyr at det stilles strenge krav og det kan man ikke se at disse har oppfylt, forteller Lintvedt ved UiO.

Men selve bruken av programmet, som privatperson er lovlig, forteller Lintvedt.

– Men la oss si at en arbeidsgiver velger å bruke dette for å finne ut noe om folk de skal ansette, da må de ha et lovlig grunnlag for å kunne bruke det, sier hun.

En EU-lov for regulering av kunstig intelligens (KI-forordningen) skal i løpet av de neste åra gradvis innføres i Norge. Også denne loven vil ramme programmer som PimEyes.

Advarer mot å teste

Programmer som dette gjør det vanskeligere for oss å være anonyme i det offentlige rom, forteller digital-etiker, Leonora Bergsjø.

– Denne typen sporbarhet gjør at vårt handlingsrom for å utforske og gjøre feil blir veldig lite, når alt kan lenkes tilbake til oss, sier hun.

– Det fine med oss mennesker er at vi kan glemme og endre oss. Nå er det virkelig mulighet for å bli hjemsøkt av fortiden på en helt ny måte, sier Bergsjø.

Når jeg lasta opp bildet av meg som voksen til PimEyes, mata jeg trolig programmet med mer informasjon.

Bergsjø advarer folk om å gjøre det samme som meg.

Hun lurer til og med på om det i det hele tatt er så lurt at jeg skriver denne saken, og gir selskapet oppmerksomhet.

– Alle burde tenke seg nøye om før man bruker slike verktøy.

– Vi vet at teknologien finnes, men vi vet ikke hvordan teknologien utvikles videre. Et verktøy som finnes nå, kan videreutvikles i andre mer skremmende retninger senere, sier hun.