Oversvømmes av voldelig innhold: – Ikke gå inn på Instagram i kveld

– Hold dere unna. Det er ingen fordeler av å se det som er der. Det er folk som dør og skader hverandre, advarer medieviter og sosiale medier-ekspert Magnus Hoem Iversen mot innholdet i videoene.

Onsdag kveld opplevde brukere verden over å få svært voldelig innhold opp på Instagram, under den såkalte Reels-funksjonen der man skroller seg gjennom videoer.

Flere VG-tipsere forteller om samme problem.

– Dette er dårlig nytt for Instagram og Meta fordi det ødelegger for annonsører, kommenterer Iversen.

Meta har så langt ikke svart på VGs henvendelse.

Relativt uvanlig

Ifølge nettstedet Vocal ser mange brukere som aldri har engasjert seg med slikt innhold plutselig såkalt NSFW-materialeForkortelse for «Not Safe for Work»-materiale, altså innhold man ikke ønsker at kolleger eller andre skal se., grafisk vold og annet sensitivt innhold på sin Utforsk-side og i Reels.

Problemet ser ut til å være globalt og rammer selv brukere med de strengeste innstillingene for sensitivt innhold.

Dette er uvanlig fordi Instagrams AI og innholdsmoderasjonssystemer er designet for å forhindre at slikt innhold når det generelle publikum.

Å bli oversvømt av voldelig innhold på Instagram har imidlertid skjedd før: The Washington Post skrev om samme type problem i 2023.

<-Magnus Hoem Iversen

Medieviter og forfatter

– Kan være koordinert kampanje

Hva som har skjedd er vanskelig å si, understreker Magnus Hoem Iversen.

Selv har medieviteren flere teorier:

– Det kan være en koordinert kampanje fra noen som prøver å fremme voldelig innhold, men det kan også være at Meta har prøvd å gjøre endringer i algoritmene, og så har det skjedd en feil. Eller det kan være et aktivt valg fra ledelsen om å endre modereringen av innhold.

Sosiale medier-ekspert Magnus Hoem Iversen under en paneldebatt under Arendalsuka i fjor. Til venstre sses kunnskapsminister Kari Nessa Nordtun. Foto: Heiko Junge / NTB

Da Meta valgte å avslutte faktasjekkprogrammet på Facebook og Instagram, var Iversen en av de som reagerte:

– Når du forandrer innholdsmodereringen, vil det ha konkrete utslag i algoritmene, og det vil føre til at man får opp ting man vanligvis ikke vil se. Men at det skulle skje så fort og så massivt, overrasker meg.

Hans oppfordring er klar:

– Ikke gå inn på Instagram Reels i kveld.

Meta, Instagrams eierselskap, har foreløpig ikke kommet med noen offisiell uttalelse om saken.

Eksperter spekulerer i om årsaken kan være:

• En feil i Instagrams innholdsmodereringssystem
• Endringer i algoritmen
• Ekstern innblanding eller cyberangrep
• En test som har gått galt

– Skal ikke skje

Professor Heri Pamampiaro, leder av Institutt for datateknologi og informatikk ved NTNU, tror problemet skyldes en teknisk feil.

– Lite er jo åpent i systemet til Meta, men for en stund siden leste jeg at de holdt på å skru av et filter som før var innbakt i systemet og sjekket alt fra seksualisert innhold, hatefulle ytringer og så videre, sier han til VG.

– Jeg vet ikke om det er tilfelle, men mistenker at dette har skjedd. Det kan også være en teknisk feil fordi Meta holder på å oppdatere systemet sitt.

<-Heri Ramampiaro

Professor ved NTNU

Selv har professoren ikke merket noe uvanlig.

– Jeg sjekket Instagram-kontoen min rett før VG tok kontakt. Jeg lener meg mest til teorien om tekniske problemer.

Å miste kontrollen over hvilket innhold som kjøres ut til SoMe-brunerer rammer selskapet, understreker han.

– Hvis Meta ikke kan bestemme selv hvilket innhold som presenteres, betyr det at de heller ikke har kontroll når de skal sende ut brukerbasert reklame.

– Er dette vanlig?

– Både ja og nei. Det kan glippe når de kjører oppgraderinger av systemet. Men i utgangspunktet skal ikke dette skje. Man skal ha kontroll når man oppdaterer programvaren algoritmen kjøres på.

Størst risiko for barn

Inntil Instagram løser problemet, anbefales brukere å justere innstillingene for sensitivt innhold, rapportere problemet til Instagram, unngå Utforsk-siden og Reels, og sjekke om det finnes app-oppdateringer.

Det er foreløpig uklart når problemet vil bli fikset.

Folk flest trenger ikke uroe seg for at dette skal skje til stadighet, mener NTNU-professor Ramampiaro.

– Men det kan selvfølgelig skje at barn som bruker sosiale medier blir eksponert for ting de ikke skal eksponeres for. Det er det største problemet her.

Se video: Netflix-stjerne har 2,8 millioner følgere