Norske profiler misbrukes i videoer: – Veldig ubehagelig

«En av de rikeste youtube-bloggerne, Mr. Beast, åpnet nylig sitt nettkasino», forteller nyhetsanker Ingerid Stenvold fra Dagsrevyens studio. Videre får vi høre om hvor fantastisk mye penger du kan vinne om du bare laster ned en bestemt kasino-app.

De siste årene har en rekke kjendiser blitt unyttet i ulike svindler, men her har kriminelle benyttet et KI-verktøy for å lage et falskt nyhetsinnslag fra Dagsrevyen.

Men svindelvideoen kunne vært laget bedre, programlederne snakker nemlig dansk.

– I denne videoen går det heldigvis fort å skjønne at bare er tull, forteller Ingerid Stenvold, som er en av programlederne som figurerer i svindelforsøket som nå sirkulerer på Facebook.

– Men de har jo her gjenskapt stemmen min, og det er veldig ubehagelig å høre seg selv si noe jeg aldri har sagt, selv om det er på dansk. Og det er bekymringsfullt å se at dette er noe amatører kan gjøre, selv nå som vi er i en tidlig fase av teknologien. Det er svindel 2.0, et helt nytt nivå.

Økende trend

Økokrim kom nylig med en rapport om nettsvindel, og skriver følgende:

– I tillegg til at denne typen verktøy vil gjøre bedrageri mer troverdige, forventer vi en betydelig økning i antall bedrageriforsøk.

De har allerede registrert at veksten av digitale bedragerier forsterkes:

– Både politiet og bankene registrerer en voldsom økning i antall bedrageri, og omfanget er nå så stort at det er et samfunnsproblem, slår Økokrim-sjef Pål K. Lønseth fast i rapporten.

I en undersøkelse fra Norsis har mer enn én av fire nordmenn opplevd å bli svindlet på nett.

En annen kjent profil som nå misbrukes i deepfake-videoer er Markus Gaupås Johansen fra det satiriske Mediehuset 5080:

– Det er vittig at jeg som lager tullenyheter har blitt misbrukt til å lage tullenyheter. Men for min del er dette først og fremst en fjær i hatten for meg som skuespiller, sier Johansen.

Falske ansikter og stemmer i videomøte

En rekke kjente personer har blitt misbrukt for å gjøre svindler på nett mer troverdige, men tidligere har det vært brukt stillbilder og villedende tekster.

Til NRK oppgir Norsis at det er et relativt nytt fenomen at KI-teknologi for å bytte ansikter, såkalt deepfaker, brukes til å svindle nordmenn. De oppgir også å ha fått de første henvendelsene om at folk har blitt svindlet av videoer som bruker deepfaker.

Svindlere har også tatt i bruk denne teknologien på mer avanserte måter: Nylig ble en finansmann i Hongkong lurt til å overføre tilsvarende 217 millioner kroner der deepfaker skal ha blitt brukt til å gjøre svindelen mer troverdig.

Framgangsmåten svindlerne brukte der, besto av å sørge for at finansmannen havnet i et uventet videomøte. Der framsto det som om flere av kollegaene hans var til stede, og han ble overtalt til å overføre flere hundre millioner til svindlere.

I etterkant viste det seg at både ansiktene og stemmene til kollegaene i møtet var forfalsket ved hjelp av ny teknologi.

Hvordan unngå å bli lurt?
Ifølge Simen Ramberg, rådgiver i Norsis, er dette noen ting du bør tenke på, for å lettere kunne gjennomskue svindlerne:

• Vær obs på uventede forespørsler, utrolige tilbud, og tidspress for å manipulere ofrene.
• Husk at svindlerne ofte spiller de på tillit, frykt, og fristelser for å overtale ofre til å handle impulsivt.
• Ikke fyll ut personlig informasjon på sider du havner på etter at du har klikket på en lenke i en e-post eller SMS.