Falske kontoer spredte drapsanklager: – Profitterer på tragedie

Knivangrepet i Southport i England har rystet en hel verden.

En 17 år gammel gutt er pågrepet for å ha drept tre barn under et dansekurs med Taylor Swift-musikk. I tillegg ble åtte barn og to voksne skadet.

Les også: Knivangrepet ryster England: – Hvem skal beskytte barna våre?

Politiet har ikke gått ut med navnet til gjerningspersonen fordi han er mindreårig.

Men i sosiale medier pågår det en intens jakt på identiteten hans.

Hele Hart Street ble sperret etter knivangrepet. Foto: Fredrik Solstad / VG

På X kryr det av et navn som en drøss av brukere har utpekt som gjerningsmann: Ali-Al-Shakati.

Navnet skal først ha blitt delt på nettsiden til nyhetsmediet Channel 3 Now, som senere fjernet navnet fra artikkelen.

Men tirsdag formiddag gikk politiet ut og sa at Ali-Al-Shakati ikke er navnet på gjerningspersonen. Da hadde navnet allerede blitt delt av millioner.

Men flere av X-brukerne som har publisert navnet gir grunn til å stusse.

– Dette er helt klart boterEn bot, kort for «robot», utfører automatiserte oppgaver som er bestemt på forhånd. , er professor Marcelo Santos klare tale.

Han er ekspert på falsk informasjon og har tidligere ledet en studie om falsk informasjon i Chile. Der avdekket han tusenvis av boter og troll Et troll i denne sammenheng er en betegnelse på personer eller organisasjoner som bevisst manipulerer innhold på internett for å skape forvirring og spre desinformasjonsom prøvde å manipulere folks meninger før valget.

<-Marcelo Santos

Professor i kommunikasjon og ekspert på falsk informasjon

– Hvordan kan du være så sikker?

– Det er skrivefeil i teksten, og den er repetitiv. Brukernavnene har mange tall på slutten og den ene brukeren har et mannlig navn, men en kvinne på profilbildet.

Professor i datateknologi ved NTNU Heri Ramampiaro er enig.

– Det er lett å avsløre at disse meldingene er generert et lite avansert verktøy.

– Mange troll

Selv om boter er autogenerert, vil det alltid være menneskelige krefter som står bak.

– Boter er programmert av et menneske. De kan ikke programmere seg selv, sier Ramampiaro.

<-Heri Ramampiaro

Professor i datateknologi og leder for Open AI-Lab

Men hvem har hatt interessen av å spre dette falske navnet på sosiale medier?

Og ikke minst: Hvorfor?

– Det finnes mye troll rundt omkring, og det kan ligge ulike motiver bak. Noen sprer informasjonen bare for å skape røre. Mens andre kan ha ønske om å fremme en agenda, sier Ramampiaro.

– En skam

Professor Santos skiller mellom to hovedmotiv:

• Politisk agenda
• Kommersiell agenda

– Vi har sett at det er mye koordinert aktivitet, spesielt på X, som har hatt en konservativ agenda, for eksempel budskap mot innvandring eller feminisme.

Gjerningsmannen er født i Cardiff i Wales og skal ha foreldre fra Rwanda, ifølge flere britiske medier, blant andre BBC. Den detaljen har skapt engasjement blant innvandringsmotstandere i England.

– Kan det i lys av dette ligge en politisk agenda bak botene?

– Jeg vil konkludere med at dette er motivert av kommersielle årsaker, det ser ikke ut som politisk agenda. Men det kan ha politisk effekt, selv om det ikke var hensikten.

Én spesiell faktor gjør at Santos lander på den konklusjonen:

– Lenken i innleggene leder til en side med ren bløff, med repetisjon av navn og ord sånn at de dukker opp i Google-søk. Noen profitterer på disse klikkene.

– Det leder folk til å klikke på lenker. Og noen får masse trafikk og profitterer på det. I Brasil er det en egen industri, hvor folk tjener millioner av dollar på Youtube-videoer og nettsider, sier han.

– Boter koster penger, så noen betaler for dette. Det er en skam at noen profitterer på tragedie.

Det finnes eksempler på at innhold i sosiale medier har blitt manipulert fra statlig hold.

Under USA-valget i 2016 sto russiske myndigheter blant annet bak flere tusen falske brukere som uttrykte støtte til amerikanere i sosiale medier som støttet Trump og var imot hans motkandidat Hillary Clinton.

– Jeg ser veldig lite bevis på det her, basert på disse spesifikke innleggene. Men for å slå det fast sikkert, må man analysere aktiviteten som en helhet for å se om det er mønstre som gagner en stat.

Hele Hart Street ble sperret etter knivangrepet. Foto: Fredrik Solstad / VG

– Gapestokk i sosiale medier

Ramampiaro peker på at boter i større omfang enn et menneske kan generere og spre ting som ikke er korekkt.

– Spredning av falsk informasjon er et kjempestort problem, og vil i verste fall påvirke demokratiet, sier han.

– Selv om AI er et verktøy som kan brukes til å føre verden fremover, kan det dessverre også brukes til det motsatte. Det er viktig at vi er kritisk til hva vi «sluker» i sosiale medier.

– Hva tenker du om at navn på en gjerningsperson har potensial til å spres i et slikt omfang gjennom bots?

– Jeg synes det er forferdelig. Det er min personlige mening, teknolog eller ikke. Det er en form for gapestokk i sosiale medier.

VGTV oppsummerer saken: