Slik bruker terror- og ekstremistgrupper kunstig intelligens til å påvirke deg

I mange år har terror- og ekstremistgrupper brukt internett for å spre sine budskap. PST advarer jevnlig om at digitale plattformer er den viktigste plassen for radikalisering.

Mye av denne propagandaen er bilder, videoer og memes.

Før måtte terrororganisasjoner få hjelp fra folk som kunne tegne eller bruke redigeringsprogrammer. Nå kan kunstig intelligens (KI) lage propaganda på sekunder.

– KI har økt produktiviteten for mange, også for terrorister og voldelige ekstremister, sier Saqeb Mueen, kommunikasjonssjef i Tech Against Terror.

Terrorister som Anders Breivik kunne for eksempel ha gjennomført det de planla lettere.

– Han kunne ha skrevet sitt 1500 siders manifest mye raskere. Den merkelige, ekstreme verdensbildet hans kunne ha nådd ut lettere og bredere, sier terroreksperten Magnus Ranstorp.

Fra skjermen til gata

Tech Against Terror fant i fjor over 5.000 eksempler på terror- og ekstremistinnhold laget med KI, fra ulike deler av verden, også fra Norge og Norden. I år er omfanget enda større og innholdet mer kreativt, ettersom KI-verktøyene har blitt bedre.

– Vi har sett chattbokser som bruker Hitler som persona og ideologi, sier Mueen.

Fordi KI-verktøy er enkle å bruke, kan propaganda lages og spres på nettet samme dag som store hendelser skjer.

– Det hisser opp følelser og kan føre til vold i gatene, sier Mueen.

Hendelsene i Southport i slutten av juli er et eksempel på dette.

Først drepte en mann tre barn og skadet åtte. Så begynte det å gå rykter om at mannen var en båtflyktning.

Samme dag ble KI-genererte bilder publisert på flere plattformer. Ett av de mest delte bildene, viste skjeggete menn i tradisjonelle muslimske klær. De holdt en kniv og sto bak gråtende barn i T-skjorter med det britiske flagget. Bildet var fulgt av setningen «Vi må beskytte våre barn».

Dagen etter var det voldelige protester mot britiske muslimer og andre minoriteter. Volden spredte seg over hele landet, med både angrep på asylsøkere, politifolk, moskeer og hoteller. Kanaler på Telegram oppfordret også til drap på Storbritannias statsminister og til angrep på statlig eiendom.

– KI-propagandaen var virkelig næring til volden, sier Mueen.

SVEIP TIL HØYRE

Denne bildeserien ble først publisert på en innvandrerfiendtlig konto på X.

«Vi må beskytte våre barn» sto det under disse bildene.

Ifølge Mueen er disse noen av gruppene som publiserer mest KI-propaganda:

Bruker meme og symboler

I mye av terrorpropagandaen som NRK har funnet, kan vi lese kommentarer som: «Vi lager propaganda for moro skyld. Bli med oss, det er koselig».

Ranstorp forteller at det er flere mål terrorgruppene vil nå med propagandaen sin.

– De vil skremme og polarisere, men også rettferdiggjøre sin ideologi og rekruttere nye folk, sier han.

Typisk innhold fra nynazistiske grupper er bilder som gjør narr av Black lives matter-demonstranter og oppfordrer til å drepe dem. De bruker også memen Pepe the Frog, som har blitt et høyreekstremistisk symbol, for å lage bilder som fremmer nazisme.

Ifølge Sqeb Mueen dukker slikt innhold ofte først opp på det mørke nettet eller i meldingstjenester som Telegram, før det spres til sosiale medier. Det er vanskelig å si med sikkerhet hvem som står bak.

– Vi har et varslingssystem og en database over symboler. Når noen sprer bestemt innhold, ser vi på terminologien som brukes. Vi kan ikke slå fast hvor mange kontoer en gruppe har, fordi vi ikke vet om det er gruppens egne medlemmer eller støttegrupper som har laget innholdet.

Men noen ganger er det klart, sier Mueen. For eksempel har AlQassam-bigraden både offisielle kanaler og støttekanaler på Telegram. Begge deler det samme innholdet fordi de kopierer fra hverandre.

IS har en KI-generert talsperson

NRKs observasjon av AlQassam-propaganda viser at de ofte blander KI-genererte bilder med photoshop-redigering. Det er fordi KI ikke er god til å illustrere perfekt tekst på bilder, og Hamas trenger koranvers og godt formulerte krigsbudskap i bildene sine.

Bildene nedenfor ble først delt på Al-Qassams offisielle Telegram-kanal. Disse formidler at Al-Qassam har som mål å utslette de israelske soldatene i Gaza:

Den arabiske teksten er et vers fra koranen. Det kan oversettes til: «Gud fylte hjertene deres med frykt; noen drepte dere, og andre tok dere til fange»

Teksten på arabisk kan oversettes til «Gazas sand skal sluke dere, nasjonenes avskum»

IS og Al Qaida bruker liknende metoder som Al-Qassam i sine KI-bilder, men de er også opptatt av lyd og video.

En IS-tilhenger, har ifølge en rapport fra Tech against terror, skrevet at han brukte et KI-verktøy til å transkribere en uttalelse fra IS-ledelsen, fra arabisk tale til indonesisk og engelsk skrift.

IS fikk også laget en KI-generert talsperson.

Fire dager etter at de angrep en musikkonsert i Russland i mars, delte terroristorganisasjonen en 92 sekunders video på en av sine plattformer. Videoen viser en KI-talsperson i hjelm og militærklær og sier at «angrepet var en del av krigen mellom IS og landene som kjemper mot islam», ifølge Washington Post.

KI kan bekjempe terror

Truslene som kunstig intelligens utgjør for verdens og Norges sikkerhet, er mange. Det vil ikke bare merkes på internett, ifølge terroreksperten Magnus Ranstorp.

– Vi ser allerede droner brukt til terror. Snart vil vi også se bomber plassert i selvkjørende biler. Terroristene har fått et nytt verktøy, og de er kreative, sier han.

Likevel er verken han eller Saqeb Mueen veldig bekymret for terrorpropagandaen. Begge mener den er fortsatt i starten, og at det er mulig å bekjempe den.

– Jeg er optimistisk så lenge de riktige skrittene tas. Jeg håper og tror at myndighetene følger med og fortsetter å støtte slike som oss i å flagge terroristpropaganda, sier Mueen.

Ranstorp mener at KI, like mye som det kan bli et verktøy for terror, også kan bli en kraft i kampen mot terror.

– De fleste vet ikke hvilken fantastisk verden KI er. Det kan brukes til å kartlegge og spore terroristaktivitet.

– Terroristene har fått et nytt verktøy, men det har myndighetene også, sier Ranstorp.