4 days ago
15
14 år gamle Francesca Mani hørte rykter om at det sirkulerte nakenbilder av jenter på skolen. Så kom det største sjokket.
Publisert 17.12.2024 00:35 Sist oppdatert 23 minutter siden
– Det spredte seg som ild i tørt gress, sier Francesca Mani i et intervju på CBS-programmet «60 minutes».
14-åringen beskriver det som den mest kaotiske dagen i hennes liv.
Ryktene nådde henne under en historietime, i det som startet som en helt vanlig skoledag på Westfield High School i New Jersey.
Det ble sagt at noen av guttene på skolen hadde nakenbilder av flere jenter.
Så fikk hun vite at et av bildene var av henne.
Mani skjønte ingenting, for hun hadde aldri latt seg avbilde naken.
Hun og flere andre jenter ble kalt inn på rektors kontor via skolens høyttaleranlegg, noe som gjorde situasjonen ekstra ille.
– Da jeg gikk gjennom gangen, så jeg guttegjenger som sto å lo av jentene som gråt. Da innså jeg at jeg måtte slutte å gråte, og heller bli sint, for dette er uakseptabelt, sier Mani.
«Har du noen du vil kle av?»
Det viste seg at bildene, som tilsynelatende så helt ekte ut, var laget ved hjelp av kunstig intelligens.
Det var hennes ansikt, men den nakne kroppen var altså laget ved hjelp av en såkalt «nudify»-app eller -nettside.
Mani sier hun nesten ikke kunne tro det.
– KI, liksom? Altså, ingen tror at noe sånt kan skje med en selv, sier hun.
Det finnes hundrevis av lett tilgjengelige nettsider, der brukerne enkelt kan lage falske nakenbilder av hvem som helst.
Den mest populære heter «Clothoff», ifølge CBS. Den hadde mer enn tre millioner brukere forrige måned.
«Har du noen du vil kle av?», står det på nettsiden, der man kan laste opp bilder av fullt påkledde personer og få dem avkledd i løpet av sekunder.
Ifølge «Clothoff» må man være over 18 for å bruke siden deres, og det er heller ikke lov å bruke andres bilder uten tillatelse. I tillegg skal det ikke være mulig å kle av mindreårige, hevdes det.
Men en av guttene på Manis skole hadde lastet opp et bilde fra Instagram til nettopp denne siden, viser søksmålet til en av de andre rammede jentene.
CBS har prøvd å kontakte noen ansvarlige for nettstedet, men har ikke fått svar.
Sex-stillinger
– Jeg tror mange foreldre vil bli sjokkert over hvordan et bilde de laster opp av barna sine på Instagram kan ende opp som et nakenbilde der ute, sier Kolina Koltai til CBS.
Hun er seniorforsker ved University of Texas, og en del av det uavhengige gravenettverket Bellingcat.
Koltai har spesialisert seg på misbruk av kunstig intelligens, og har fulgt med på «Clothoff» og andre slike nettsteder i lang tid.
Hun sier de ikke har noen som helst mulighet til å sjekke alder og samtykke, og hun forteller at de også tilbyr drøyere innhold enn bare nakenhet.
– En ny mulighet som de tilbyr i «premium»-abonnementet, er ulike sex-stillinger, forteller Koltai.
Det er uklart hvem som eier nettstedet, og hun har sett hvordan de prøver å maskere betalinger.
– Det er helt klart en lysky virksomhet som foregår, sier hun.
Ifølge Koltai har «Clothoff» blant annet laget en falsk administrerende direktør, ved hjelp av KI.
Og når det gjelder betaling, blir brukere omdirigert til andre nettsider som tilsynelatende selger blomster eller fotokurs, ettersom tjenestene de tilbyr strider mot retningslinjene til store aktører for onlinebetaling, som for eksempel PayPal.
– Ydmykelse
«Noen elever har brukt kunstig intelligens til å lage pornografisk innhold av originalbilder», sto det i eposten som rektoren ved Francesca Manis skole sendte til foreldrene etter at det ble kjent hva noen av guttene på skolen hadde gjort.
Guttene fikk en dags utvisning i straff for å ha laget nakenbildene.
For jentene kommer følgene til å vare lengre.
– Jentene må leve med at kanskje er det bildet der ute på nettet et sted. Og så må de bare leve med det disse guttene gjorde, sier Mani.
CBS har funnet 30 lignende saker ved amerikanske skoler det siste halvannet året.
– Det går an å si, «det er jo falske bilder». Men vi vet at ofrene for dette vil føle på ydmykelse, sier Yiota Souras, sjefjurist ved National Center for Missing and Exploited Children, til CBS.
Hun forteller om hvordan det å bli utsatt for nakenbildemanipulering går utover både den mentale helsen og anseelsen til de som utsettes for det.
– I en skolesituasjon forsterkes dette veldig, fordi det er noen i omgangskretsen som har gjort det. Så det fører til mangel på tillit, sier Souras.
Smutthull
Nakenbilder av mindreårige som laget med kunstig intelligens er forbudt i henhold til den amerikanske barnepornolovgivningen, dersom de er av eksplisitt seksuell karakter.
Men Souras mener bildene som lages via nettsider som «Clothoff» ikke vil falle innunder den definisjonen.
– Det er et smutthull i loven når det kommer til «nudify»-sidene som det er helt nødvendig å få tettet, sier hun.
I året som har gått etter at Francesca Mani oppdaget at det var laget falske nakenbilder av henne, har hun og moren jobbet med å oppfordre skoler til å få på plass retningslinjer knyttet til bruk av kunstig intelligens.
I tillegg har de jobbet med politikere i Kongressen, for å få på plass føderale lover.
En lov som har fått navnet «Take it down» har nettopp gått gjennom i Senatet, og venter på på behandling i Representantenes hus.
Loven vil gjøre det straffbart å dele KI-genererte nakenbilder, og kreve at sosiale medieplattformer må fjerne bilder innen 48 timer etter at de har mottatt et varsel.
English (US)