– Alt du vil, er at bildene skal forsvinne

JERSEY CITY (E24): Da 14 år gamle Francesca Mani ble offer for falske nakenbilder, startet hun og moren en kamp mot digitale overgrep.

Det var en varm maidag i Washington, D.C. Rosene blomstret i hagen utenfor Det hvite hus. Et orkester spilte. Gjestene fikk servert frisk limonade.

Midt i folkemengden sto tobarnsmor Dorota Mani og tenkte at det hele var som hentet fra en film.

– Det var perfekt, sier Mani.

Så var hun heller ingen nøytral tilskuer. For henne var denne seremonien høydepunktet i en nesten to år lang kamp.

HØYTIDELIG: En rekke gjester var samlet i rosehagen utenfor Det hvite hus mandag 19. mai, da president Donald Trump signerte en lov mot digitale overgrep. Foto: JIM WATSON / AFP

Det begynte en høstdag i 2023, da det spredte seg rykter på Westfield videregående skole i New Jersey, hvor Manis datter, Francesca (14), var elev.

Ifølge ryktene, ble det sendt rundt nakenbilder av jenter på skolen. Bildene var ikke ekte, men skapt ved hjelp av en type AI-verktøy som kan brukes til å «kle av» folk på vanlige bilder.

– Alle jentene gråt, fordi ingen visste hvem som var rammet. De visste bare at det fantes bilder. Det var kaos, forteller Mani.

Både hun og datteren ble først sjokkert, men sjokket ble raskt erstattet med skuffelse og sinne. Både over selve handlingen, men også over hvordan den ble håndtert av ledelsen på skolen.

– De sendte ut en e-post til hele skolen, hvor de informerte om at det var massiv feilinformasjon. I tillegg fikk én gutt én dags suspensjon, sier Mani.

Skolen har ikke besvart E24s henvendelse, men en talsperson har tidligere sagt at de iverksatte etterforskning så snart de fikk vite om hendelsen. I tillegg tilbød de rådgivning til elever som søkte støtte.

Mani forteller at datteren oppsøkte rektors kontor for å kreve at noe måtte gjøres. Men responsen var ikke det familien hadde håpet på.

– Daværende rektor sa at de ikke kunne gjøre noe, fordi det ikke fantes noen lover mot dette, sier Mani.

Så datteren svarte: «Jeg skal skaffe en lov».

Voksende problem

Hendelsen på Westfield vgs. skjedde ett års tid etter lanseringen av tjenester som Midjourney og ChatGPT, da folk flest virkelig fikk øynene opp for kunstig intelligens og begynte å teste denne typen verktøy.

I månedene og årene etter begynte det å dukke opp falske nakenbilder på skoler over hele USA.

Her er noen eksempler:

• En 15-åring ble suspendert fra Aledo vgs., Texas i oktober 2023 etter å ha publisert falske nakenbilder av ti jenter på skolen.
• I desember 2023 arresterte politiet to ungdomsskoleelever ved Pinecrest Cove Academy i Florida for å ha delt falske nakenbilder av medelever.
• Fem åttendeklassinger ved Beverly Hills ungdomsskole i California ble utvist i mars 2024 etter å ha laget og delt AI-nakenbilder av 16 jenter.
• I desember 2024 ble to gutter ved Lancaster Country Day School i Pennsylvania tiltalt for seksuelt misbruk etter å ha laget falske nakenbilder av 59 jenter.

Disse sakene er trolig bare toppen av isfjellet.

En undersøkelse fra teknologiselskapet Thorn viser at hele elleve prosent av amerikanske elever har rapportert om falske AI-nakenbilder laget av medelever, skriver LA Times.

AKTIVIST: Dorota Mani har sett hvordan spredningen av falske nakenbilder kan påvirke unge jenter. Foto: Pete Kiehart / E24

Da Francesca Mani ble offer for falske nakenbilder, ville hun og moren kjempe for endring. De begynte å kontakte politikere og organisasjoner og snakket om sine erfaringer i amerikanske medier.

– Vi ønsket lovgivning, vi ønsket retningslinjer i skolene, og vi ville ha ansvarliggjøring, sier Dorota Mani.

En dag fikk hun en telefon fra Halie Craig ved kontoret til senator Ted Cruz. Hun jobbet med et lovforslag som ville gjøre det straffbart å publisere intime bilder av personer uten samtykke, inkludert falske bilder laget ved hjelp av kunstig intelligens.

– Det var blitt tydelig at dette var et økende problem, spesielt da det begynte å ramme barn, sier Craig på telefon til E24.

Fra aktivisme til lovgiving

Francesca og Dorota Mani bestemte seg for å støtte lovforslaget. For dem var det viktig at loven ikke bare skulle straffe gjerningspersonene, men også gi ofrene mulighet til å få fjernet de falske bildene raskt.

– Alt du vil, er at bildene skal forsvinne, sier Mani.

Hun og datteren deltok på en pressekonferanse i Kongressen. I tillegg vitnet Francesca sammen med Elliston Berry, en annen tenåring som hadde blitt utsatt for spredning av falske nakenbilder.

Halie Craig, en av hovedarkitektene bak lovforslaget, mener jentenes vitnesbyrd var avgjørende.

– Det er vanskelig å få gjennomslag når ingen er villige til å stå frem. Du trenger modige jenter som Francesca og Elliston som kan snakke direkte om hvordan dette har påvirket dem, sier Craig.

I mars fikk hun og andre forkjempere et gjennombrudd da de fikk med seg førstedamen på laget. Etter et møte i Kongressen, uttalte Melania Trump at det var hjerteskjærende å se tenåringer kjempe med denne typen utfordringer på nett.

Måneden etter ble lovforslaget endelig vedtatt i Representantenes hus med 409 mot to stemmer, etter å ha gått enstemmig gjennom i Senatet.

SENTRAL: Francesca Mani til venstre for president Donald Trump da han signerte en lov mot digitale overgrep. Foto: Kevin Lamarque / Reuters

Mandag 19. mai signerte deretter Donald Trump loven, under en seremoni i Rosehagen. Ved siden av, i rød blazer, sto nå 16 år gamle Francesca Mani.

– Det var et stort øyeblikk. Denne loven er så viktig for så mange mennesker, sier moren hennes, Dorota Mani.

Bekymret for sensur

Det raske tempoet i prosessen var uvanlig – spesielt for en lov som regulerer teknologiselskaper.

– Saken traff en nerve hos så mange mennesker, sier lovforfatter Halie Craig.

Den nye loven gjør det ulovlig å dele nakenbilder av andre uten godkjenning. Nettsteder og sosiale medieselskaper må fjerne bildene innen 48 timer etter at et offer ber om det. De må også ta skritt for å slette kopier.

Les E24s artikkelserie AI – en ny virkelighet

I arbeidet med loven, brukte Craig sin erfaring, både fra politikken, men også fra to år hos Facebook.

– Vi ville sørge for at lovforslaget var ekstremt presist formulert så det kunne overleve en eventuell rettslig utfordring, men også så vi ikke gikk for langt inn i områder som humor og satire, forklarer Craig.

Denne tilnærmingen ga lovforslaget bred støtte fra både politikere og teknologiselskaper, men ikke alle er like begeistret.

Organisasjoner som Electronic Frontier Foundation (EFF) og Cyber Civil Rights Initiative er redde for at loven kan føre til sensur. De mener den er for uklar.

– Lovens bestemmelse om fjerning av innhold mangler kritiske sikkerhetstiltak mot useriøse eller ondsinnet motiverte forespørsler, skriver EFF i en uttalelse.

Mor og pådriver, Dorota Mani, er uenig i denne kritikken.

– Ingen vil noensinne være enige om alt, men vi må begynne et sted, sier hun.

– Denne typen bilder kan påvirke millioner av ungdommer og deres akademiske, profesjonelle, sosiale og emosjonelle fremtid, fortsetter Mani.

Global påvirkning

Kampen mot AI-genererte overgrepsbilder har ført henne verden rundt sammen med datteren. De har delt sin historie med medier og organisasjoner i land som Tyskland, Australia, England, Frankrike, Japan og Korea.

I Norge har tidligere justisminister Emilie Enger Mehl gjort det klart at spredningen av denne typen bilder er ulovlig, men hun erkjente samtidig at etterforskningen kan være vanskelig for politiet.

Familien Manis’ erfaringer viser at denne utfordringen er global.

– Vi blir kontaktet av ofre fra hele verden, fordi de ikke har noe sted å få hjelp, sier Dorota Mani.

STOR INTERESSE: Dorota Mani har reist rundt med datteren Francesca, fra Dubai til San Francisco, for å fortelle om hennes erfaringer. Foto: Pete Kiehart / E24

Hun anser seg nå som ferdig med sitt politiske arbeid, men hun og datteren jobber videre for å engasjere skolekretser og involvere unge stemmer i dialog om etisk bruk av kunstig intelligens.

– Denne teknologien er fantastisk, men vi må sørge for at vi regulerer den, sier Mani.

– La oss prøve å lære samfunnet vårt å ikke misbruke teknologi for å skade andre.