YouTube oversvømmes av KI-søppel: – Det morbide selger

– Det morbide selger, følelser selger. Videoene mine er veldig populære, sier Cesar Torrealba (23).

Han er født i Venezuela, men forteller at han flyktet til Peru med familiens sparepenger i sokkene. Der fikk han først jobb som møbelsnekker.

Nå har han slengt seg på en trend han tjener mye mer på: KI-genererte videoer på YouTube.

På kort tid har han fått mer enn 700.000 abonnenter på kanalen. Den mest sette videoen har over 8 millioner visninger.

Det gjør at Torrealba på gode måneder tjener opp mot 15.000 norske kroner på YouTube.

– Nå tjener jeg dobbelt så mye som de som har vanlige jobber, forteller han.

En business-mulighet

I 90 prosent av tilfellene dukket det opp forslag til videoer med skrekk, vold, kroppsfokus eller seksuelle antydninger.

Mye av innholdet er KI-generert, og blant kanalene vi kom over var Torrealbas.

Han bruker KI til å lage videoer av de populære figurene Rumi og Mira fra Netflix-serien «K-pop Demon Hunters».

Mens originalen har aldersgrense 10 år og handler om K-pop-stjerner som redder verden, gjør karakterene andre ting i videoene til Torrealba.

Blant annet tar de plastiske operasjoner og sammenlikner hverandres kropp og utseende.

Torrealba legger ikke skjul på at han ofte lager sjokkerende innhold – fordi han merker at det fungerer.

Karakterene Rumi og Mira fra KPop Demon Hunters havner i absurde situasjoner i Torrealbas videoer.

KI-generert: Cesar Torrealba/YouTube

Samtidig er han tydelig på at videoene hans ikke er laget for barn. Han mener det først og fremst er foreldrenes ansvar å kontrollere hva barna ser på.

– Jeg bryr meg om å lage videoene mine og underholde. Og jeg tjener pengene mine på det, sier han.

Kvalifisert til utbetaling

YouTube vil belønne videoer med høy kvalitet. Det opplyser selskapet til NRK. Derfor har de laget noen kriterier for å tjene penger.

Den ene metoden krever minst 1000 abonnenter på kanalen og at videoene er spilt av 4000 timer i løpet av et år.

Den andre metoden krever så mye som 3 millioner «shorts»-seere på 90 dager.

Men i stedet for å lage noen få videoer som får veldig høy trafikk, har en gruppe innholdsskapere nådd 3 millioner seere ved å publisere mange videoer på kort tid.

Ulike KI-verktøy har gjort slik masseproduksjon mye enklere, og kanaler som publiserer mye innhold med lav kvalitet har fått navnet søppelfabrikker.

En analyse fra teknologiselskapet Kapwing anslår at 20–30 prosent av innholdet som YouTube anbefaler er KI-søppel.

NRK har spurt YouTube om Kapwings beregning stemmer. Til det svarer selskapet at det er vanskelig å definere hva som er KI-søppel, ettersom det også finnes nyttig KI-innhold.

Når KI har gjort det enklere å lage video, blir det også tøffere konkurranse for de som lager video på gamlemåten.

Det har en norsk youtuber erfart.

Hard konkurranse

– Det er frustrerende med tanke på all innsatsen man legger inn, sier youtuberen Pål.

På YouTube-kanalen Yoshiandpal deler han videoer fra fjellturer i Norge sammen med hunden sin.

Hunden heter Yoshi, mens han bruker bare fornavnet Pål på nettet.

– En av de viktigste tingene på shorts, er de første sekundene. Hvis man kan skape crazy situasjoner med KI, er det nesten umulig å konkurrere mot, sier han.

Enkelte av videoene hans er sett av millioner. Noen av de nyeste har kun noen tusen visninger.

– Memes og pranks med lav kvalitet har lenge vært en del av internett. Men det var i hvert fall en viss sjel da det var ekte skapere, legger han til.

Pål sier han bare lager ekte innhold. Likevel har han opplevd at spektakulære videoer har blitt beskyldt for å være laget av KI.

For Pål er YouTube hovedsakelig en hobby. De få kronene han tjener, går til bompenger og overnatting på tur.

– Insentivet til de som masseproduserer lavkvalitetsinnhold er å tjene penger. Jeg tenker at hvis man tar bort det insentivet, vil problemet bli mye mindre, sier han.

YouTubes kamp

KI-videoer blir vurdert etter de samme kriteriene som alt annet på YouTube. Det opplyser en representant for YouTube til NRK.

Selskapet ønsker ikke å stille til intervju i denne saken, men en representant svarer på vegne av selskapet via e-post.

«Å masseprodusere innhold av lav kvalitet, er ikke en langsiktig strategi på YouTube. Systemene og retningslinjene våre for inntektsdeling er designet for å fange opp dette», opplyser selskapet.

De siste årene har YouTube tatt grep mot videoer de mener ikke oppfyller kravene. De har stengt finansieringen av flere kontoer. De sier de særlig ønsker å beskytte barn, og mener at tiltakene fungerer.

«For yngre seere har anbefalingssystemene våre egne beskyttelsesmekanismer. De bryter negative seermønstre for sensitivt innhold og løfter frem kvalitetsinnhold», skriver YouTube.

I NRKs gransking undersøkte vi også denne beskyttelsesmekanismen.

Av videoene vi kategoriserte som skrekk, vold, seksuelle antydninger eller tydelig kroppsfokus, fant vi at mer enn halvparten av disse var tilgjengelige selv om vi brukte en innlogget bruker med de strengeste innstillingene på vanlig YouTube.

Selskapet fjernet en rekke av videoene og tok ned to kanaler etter avsløringen. De presiserte at ingen av videoene NRK hadde delt er tilgjengelige med YouTube Kids.

Selskapet hevder at en strategi som baserer seg på å lage morbid innhold ikke vil fungere.

«Hvis en innholdsskaper bruker KI-verktøy til å lage masseprodusert, repetitivt innhold av lav kvalitet, kan skaperen bli utestengt fra partnerprogrammet. Det kan skje selv om de enkelte videoene i seg selv ikke bryter retningslinjene våre, skriver selskapet».

Lønnsomt i Peru

Også Cesar Torrealba har opplevd å bli midlertidig suspendert.

Tidligere laget han KI-videoer av en latinamerikansk tegneseriefigur. Men så stanset YouTube utbetalingene for de siste to månedene. De suspenderte han fordi de mente han brøt retningslinjene til plattformen.

Frykten for at det skal skje igjen, gjør at han ikke ønsker at NRK publiserer kontonavnet hans.

Torrealba tapte tilsvarende tre peruanske månedslønner på suspensjonen, men ga ikke opp.

Flere av kontoene NRK har undersøkt, har opphav i land med vesentlig lavere lønnsnivå enn Norge. Videoene lages i blant annet India, Nepal, Algerie, Brasil og Peru.

Med lavt lønnsnivå i hjemlandet, kreves ikke veldig høye inntekter fra YouTube for å kunne leve godt.

Torrealbas nye Demon Hunters-videoer går enda bedre enn hans gamle innhold. Derfor har han sagt opp jobben som møbelsnekker, og satser nå fullt på YouTube-videoer.

Det er en jobb han tar svært seriøst.

– Jeg fokuserer nå på å skape innhold og jobbe med de digitale prosjektene mine, sier han.