Apple og Google leder brukere til «nudify»-apper

Promoterer apper som lager nakenbilder, viser undersøkelse.

Apple og Google har regler mot apper som kan «kle av» folk digitalt, men søkesystemene deres leder likevel brukere rett til slike apper. Det viser en ny undersøkelse fra Tech Transparency Project (TTP).

Når brukere søker på ord som «nudify», «undress» og «deepnude» i App Store og Google Play, dukker det opp flere apper som kan bruke kunstig intelligens til å fjerne klær fra bilder av kvinner.

Appene kan ta bilder av virkelige personer og bruke AI til å få dem til å se nakne ut, sette dem inn i pornografiske videoer eller gjøre dem om til seksuelt eksplisitte chatboter.

– Det er ikke bare at selskapene ikke klarer å gjennomgå appene ordentlig og fortsetter å godkjenne og tjene penger på dem. De leder faktisk brukerne til appene selv, sier Katie Paul fra Tech Transparency Project til Bloomberg.

Undersøkelsen fant at 40 prosent av appene som kom opp i søkeresultatene kunne gjøre kvinner nakne eller lettkledde.

Apple og Google kjørte til og med annonser for slike apper i noen av søkeresultatene, og appbutikkenes autofullføringsfunksjon foreslo også nye søkeord som leder til flere «nudify»-apper.

Totalt har appene som ble funnet blitt lastet ned 483 millioner ganger og tjent over 122 millioner dollar, ifølge analyseselskapet AppMagic.

31 av appene var vurdert som passende for mindreårige. Ifølge en undersøkelse fra Ecpat Sverige er det ofte barn som genererer AI-nakenbilder av andre barn.

Etter at TTP og Bloomberg delte funnene med selskapene, fjernet Apple 15 apper fra App Store og Google fjernet syv fra Play-butikken.

– Når brudd på retningslinjene våre blir rapportert til oss, undersøker vi og tar passende grep, sa Google-talsperson Dan Jackson til TTP.

Apple ønsket ikke å kommentere funnene.

Da vi prøvde å bruke de samme søkeordene TTP brukte, viste flere av søkeresultatene blanke sider, men søkeresultatene for «deepfake» og «deepnude» viste fortsatt resultater på avkledningsapper som ble nevnt i undersøkelsen.

AI-chatboten Grok har spesielt møtt kritikk for å kunne generere slike bilder. Appen har til og med en egen «spicy»-modus som kan generere seksualiserte videoer basert på bilder.

Blant annet Frankrike og EU gransker nå den Elon Musk-eide AI-appen for å ha oppmuntret til generering av deepfakes. Teknologi-milliardæren ble kalt til avhør i Paris mandag denne uken, men møtte ikke opp.

I juli nektet Musk for anklagene og sa at den franske påtalemyndigheten hadde startet en politisk motivert etterforskning, skriver NTB.

I TTPs undersøkelse blokkerte Grok-appen å digitalt kle av kvinner de lastet opp.

Tidligere i år stemte et flertall i Stortinget for at det skal utredes nye lover som forbyr seksualiserte «deepfake-bilder» av personer. Regjeringen må da komme med et lovforslag tilbake til Stortinget innen slutten av 2027.