Advarer mot AI-skapte overgrepsbilder

Men det er ikke bare en trussel mot barna som du har delt bilder av.

Det er også en trussel mot barn i fattige land som allerede står i fare for å bli fysisk misbrukt, mener Kripos.

– Vi frykter en økning i direkteoverførte overgrep fordi noen av dem med seksuell interesse for barn, vil vite sikkert at det faktisk skjer et overgrep, sier Thale Parker, politioverbetjent i Kripos.

<-Thale Parker

Politioverbetjent, Kripos

Sammen med politibetjent Kaja Gimle har hun skrevet kapittelet i årets cyberkrimrapport som handler om seksuallovbrudd på nett.

Noe av det som bekymrer dem mest, er økningen internasjonalt av overgrepsbilder som kunstig intelligens klarer å lage, blant annet ut fra vanlige familiebilder. De forutser at 2025 vil bli året hvor dette kommer til Norge – også AI-genererte overgrepsvideoer med ansiktene til virkelige barn.

Det meste lages for å deles gratis, men Kripos ser også at noe av det AI-genererte overgrepsmaterialet selges for penger.

Derfor advarer Kripos foreldre og besteforeldre om å være forsiktige med hvor og hvordan de deler bilder av barn og barnebarn.

Hvis bildene ligger åpent tilgjengelig for enhver, er det en fare for at bildene kan bli misbrukt til å skape kunstige overgrepsbilder, sier analytikerne ved Kripos.

– Det finnes foreldre som ennå deler mye av barna sine på sosiale medier. Vårt råd er å ikke dele bildene på en åpen konto, men ha kontroll over hvem man er venner med på Instagram og andre steder, sier Gimle.

<-Kaja Gimle

Politibetjent, Kripos

Kripos har ennå ikke funnet kunstige overgrepsbilder laget av norske barn, men de forutser at dette vil komme til Norge snarlig.

Falske overgrepsbilder kan skape problemer for etterforskning, siden det kan bli vanskelig å skille mellom det som er ekte og det som er falskt.

– På sikt kan det bli vanskelig for politiet å skille mellom hvilket overgrepsmateriale som viser fysiske overgrep, og hvilke bilder som er kunstig generert. Det er blitt vanskelig å avdekke hva som er ekte og hva som er syntetisk laget, med det blotte øye. Dette vil påvirke politiets etterforskning og kan utfordre vårt arbeid med å identifisere ofre for reelle overgrep, sier Parker.

Samtidig minner de på at både ekte og falske overgrepsbilder, er straffbart ifølge norsk lov.

– Dette har ikke truffet oss ennå, men det vil skje. Vi ser det allerede på tipsene vi får fra amerikanske tjenester, at det deles syntetisk overgrepsmateriale, sier Gimle.

Ikke bare kommer det AI-genererte bilder, men Kripos-analytikerne tror også at 2025 blir året hvor politiet vil se AI-genererte videoer av overgrep mot barn.

Les også: Nordmann tok livet sitt etter sexchat – spor peker mot Marokko

Det har lenge vært et teknologisk kappløp mellom politi og overgripere. Med kunstig intelligens får overgriperne enda en fordel.

– AI har sine fordeler, og også politiet vil ta i bruk teknologien, blant annet for å hindre at barn blir seksuelt unyttet på internett. Men foreldre og eiere av de digitale plattformene må ta sin del av ansvaret. De er best i stand til å avdekke hva som deles hos dem, sier Gimle.

Det er flere grunner til at noen lager kunstige overgrepsbilder basert på ekte bilder. Noen lager eller bestiller slike bilder fordi de har en seksuell dragning mot mindreårige. Andre har et økonomisk motiv.

– Vi har også sett at syntetiske nakenbilder brukes til utpressing. Det er ennå en liten andel, og ofte benyttes ekte nakenbilder, men syntetiske bilder er der allerede, sier Gimle.

Les også: For mange saker om seksuell utpressing kommer ikke til politiet, frykter Kripos

Seksuell utpressing er en kriminalitetstype som har økt det siste året, skriver Kripos i den nye cyberkrim-rapporten.

De aller fleste utpressingsofrene er gutter og menn. Halvparten av de voksne som blir utsatt for utpressing, betaler utpresseren, mens 20 prosent av barna betaler. Det viser en analyse Kripos har gjort av et stort antall saker.

Enkeltbeløpene som hver enkelt betaler, er ikke store. I snitt betaler den voksne 10.000 kroner til utpresseren, mens et barn i snitt betaler 2800 kroner. Pengene går ofte til Nigeria, Filippinene eller Elfenbenskysten.

Kripos mener at denne type utpressing utgjør en svært stor trussel mot samfunnet.

– Det er fordi de psykologiske implikasjonene av utpressingen er så store, sier Gimle.

Hvis du utsettes for utpressing, har de to følgende råd:

– Bryt kontakten. Ikke betal. Å betale er bare et tegn på at du kan presses for mer penger. Og er du et barn: Snakk med en voksen, sier Parker.

Sikkerhetsrådgiver Mia Landsem er kjent for å hjelpe jenter og gutter som får bilder av seg selv spredt på nettet. Hun kjenner godt til kunstig genererte overgrepsbilder i sitt arbeid.

PASS PÅ BILDENE: Kunstig intelligens har gjort at normale bilder av barn nå kan brukes til å lage overgrepsmateriale. Sikkerhetsrådgiver Mia Landsem ber foreldre vise aktsomhet når de deler fra barnas liv. Foto: Fredrik Solstad / VG

– De spres mellom pedofile i overgrepsgrupper på nettet. Heldigvis er det ikke mange vanlige folk som besøker slike grupper og nettsteder, så det hindrer bildene i å bli spredt stort, sier hun.

I sitt arbeid har hun sett norske menn tilby tjenester hvor de kan lage kunstig genererte nakenbilder, med utgangspunkt i bilder av påkledde jenter.

Også hun ber foreldre være varsomme med å dele bilder åpent.

– Det kan få konsekvenser som kan gå utover barnas liv for alltid. Jeg har sett eksempler på at overgrepsgrupper deler bilder av mor og barn og diskuterer dem på en urovekkende måte, sier Landsem.

<-Kaja Hegg

Spesialrådgiver, Redd Barna

Også Redd Barna ser at det blir stadig mer kunstig overgrepsmateriale basert på ekte barnebilder.

– For barna som får sitt ansikt på slike bilder, så er det en stor belastning. Vi ser også at AI brukes både i utpressing og i å få kontakt med barn. Det øker et problem som allerede er stort, sier Kaja Hegg, spesialrådgiver i Redd Barna.

Også hun mener at dette er de digitale plattformenes ansvar.

– Vi må utfordre selskapene som gjør dette mulig. Mange av plattformene lever av å holde på barnas tid og oppmerksomhet, så det er viktig at plattformene blir lovregulert på det som gjelder beskyttelse av barn.