KI-videoene ser nesten helt ekte ut: – Sier at krigen ikke er verdt det

Er det noe rart med øynene? Eller med hvordan munnen beveger seg?

Selv om man nistirrer, er det nesten umulig å se at den «ukrainske soldaten» som sier at han er forlatt ved fronten, er laget av kunstig intelligens (KI).

Nå florerer slike videoer på sosiale medier.

Mange følger et fast mønster: En desperat ukrainsk soldat som i fortvilelse avslører de elendige forholdene han kjemper under.

– Beskjeden er at de er «fucked». At de ikke klarer å kjempe, eller at de må gjøre retrett, sier Francesco Cavalli.

– Videoene viser også folk som sier at krigen ikke er verdt det.

Han er medgrunnlegger og trusselanalytiker i teknologiselskapet Sensity, med hovedkvarter i Nederland. Selskapet analyserer piksler, filstrukturer og lyder for å avsløre KI-videoer og annet innhold, som blir mer og mer realistisk.

– Sannsynligvis står statlige aktører bak flere tusen falske videoer som vi har oppdaget i Ukraina, sier Cavalli.

De er ikke de eneste som har identifisert den nye trenden.

I starten av en ny fase

Dataangrep og påvirkningsoperasjoner har vært en del av Ukraina-krigen siden lenge før Russlands storangrep i 2022.

Gjennom storkrigen har operasjonene vært gjennom flere faser, ifølge ukrainske cybermyndigheter:

1. Langvarig infiltrering av systemer knyttet til myndigheter og militæret.
2. Dataangrep på strømnettet som samsvarer med russiske drone- og missilangrep.
3. Dataangrep mot sivile mål som kommunikasjonssystemer og offentlige tjenester.

I fjor startet en ny fase, dominert av «deepfakes». Dette er KI-genererte bilder, videoer og lydopptak som skal se ekte ut, og som brukes for å oppnå et mål.

– «Deepfakes» dukket opp bare noen dager etter at KI-modellene ble i stand til å lage nye bilder, sier en representant for Ukrainas sikkerhetstjeneste for kommunikasjon og IT, SSSCIP, til NRK.

Av hensyn til sikkerheten bruker ikke NRK navnet hans.

– Det vi ser nå, er et nytt omfang i ukrainske medier og sosiale medier. En ny bølge der russerne legger mye arbeid i å lage nytt innhold.

NRK har bedt Russlands ambassade i Oslo om å svare på anklagene.

– Russland går konsekvent inn for en ansvarlig tilnærming til bruk av digitale teknologier, inkludert kunstig intelligens, skriver ambassaden i en e-post.

Ambassaden mener at ukrainske myndigheter er ute etter å avlede oppmerksomheten fra nasjonale utfordringer. De påpeker at digital manipulering med deepfakes og KI-innhold er problemer som rammer overalt, og avviser at det kan kobles til Russland.

SSSCIP-representanten forteller at videoene også kan vise vanlige ukrainere som snakker om hvor misfornøyde de er med myndighetene og president Zelenskyj.

Han er redd for at det skal påvirke befolkningen i land som Ukraina er avhengig av støtte fra. Kanskje blir de mindre villige til å hjelpe.

– Det kan være dødelig. Så konsekvensene er alvorlige, sier han.

Starter på Tiktok

Francesco Cavalli i Sensity er ikke i tvil om at det er en organisert kampanje.

– Mange av dem følger det samme manuset og har samme struktur, der en helt eller delvis KI-generert soldat kommer med oppsiktsvekkende utsagn.

Videoene skaper ikke bare forvirring og mistillit om Ukrainas kampevne og til myndighetene, forteller han. De kan også bekrefte overbevisninger man allerede har.

– Det handler ikke om å skape en perfekt etterligning av et menneske. Det holder med noen som passer til rollen og som bekrefter det man allerede tror.

Ukrainske myndigheter har fått kritikk etter avsløringer om tilstanden til ukrainske soldater ved fronten:

De falske KI-videoene sirkulerer på mange sosiale medier, men Cavalli sier at det finnes et mønster:

1. Først dukker videoene opp på Tiktok, der de spres av falske kontoer.
2. Så dukker de opp på meldingstjenesten Telegram, der de sprer seg til hele verden.
3. Så kan de dukke opp på andre plattformer, som Facebook, Instagram og X.
4. Til slutt kan de bli delt av ekte nyhetsmedier, noe som får KI-videoene til å fremstå mer troverdige.

SSSCIP-representanten sier at de sliter med å bekjempe problemet. Det viktigste de gjør, er å finne de falske profilene og få dem stengt.

Både Tiktok og Telgram anklages for å bidra til å spre falskt innhold. Øverst: Tiktoks logo i Culver City i California. Nederst: Illustrasjonsbilde av Telegrams logo.

Dado Ruvic / Mario Tama / AFP / Getty Images / Reuters / NTB

Men til det trengs hjelp fra de store teknologiselskapene, som ikke alltid er like lydhøre.

– Er de hjelpsomme?

– Det er vanskelig. Veldig vanskelig.

NRK har forelagt kritikken overfor Tiktok og Telegram. Tiktoks kommunikasjonssjef i Norden, Lukasz Lindell, svarer til NRK at plattformen forbyr falskt innhold om krig, og at 99 prosent av innholdet som bryter med retningslinjene, fjernes før det blir rapportert.

Samtidig viser tall fra Tiktoks nettsider at ukrainske myndigheter i første halvdel av 2025 rapporterte over 1000 kontoer. Kun 10 prosent ble fjernet.

Telegrams talsperson Remi Vaughn understreker på sin side plattformens støtte til ytringsfrihet.

KI fører imidlertid også til et nytt problem, forteller SSSCIP-representanten:

– Det brukes ikke bare til å lage falskt innhold. Det brukes også til å spre det. KI-agenter kan opprette millioner av falske kontoer som kan dele innhold, og øke brukernes tillit til slikt innhold.

NSM-sjefen: Utfordring også i Norge

Nylig startet SSSCIP et samarbeid med Nasjonal sikkerhetsmyndighet (NSM). Det skal blant annet «øke NSMs kunnskap om cybersikkerhet i krig,» ifølge pressemeldingen.

Norge har mye å lære av ukrainerne om hvordan russerne opererer og hvilke planer de har, forteller NSM-sjef Arne Christian Haugstøyl.

Han forteller at også NSM er oppmerksomme på utfordringene knyttet til ny KI-teknologi.

– Den generative KI-en utfordrer oss i betydelig grad. Ting ser mer ekte ut, sier han til NRK.

Haugstøyl understreker at NSM har et godt samarbeid med plattformene når det gjelder å bekjempe falskt innhold og forsøk på påvirkning.

– Vi har en dialog og opplever at mange hører på oss, og gjør aktive tiltak for å beskytte seg mot den type operasjoner.

– Anser dere likevel dette som et problem som kan øke i omfang?

– Ja, definitivt. Og ikke nødvendigvis fordi plattformene vil det, men heller ikke de klarer å oppdage all aktiviteten som skjer.