Ny KI-funksjon skaper reaksjoner: – En drøm av et verktøy for en psykopat

– Jeg visste ikke at man kunne gjøre dette på snap.

Det sier venninnene Selma Hermanrud og Molly Amalie Kleist Olsen.

De bruker Snapchat hver dag til å snakke med venner.

NRK tar et bilde av Selma og Molly gjennom Molly sin Snapchat.

«Make them fight» skriver de i tekstfeltet, og vipps endrer bildet seg.

Latteren bryter løs.

– Jeg syns det er veldig kult, sier Selma.

Det som først var morsomt, har også fått jentene til å tenke på hva et slikt verktøy kan brukes til.

– Det kan skape urealistiske situasjoner som kan spres. Det er litt skummelt, sier Molly.

Kan manipulere virkeligheten

Verktøyet har fått navnet «Imagine».

Det gir Snapchat-brukere mulighet til å manipulere et begrenset antall bilder, helt gratis.

Alt man trenger å gjøre, er å ta et bilde, velge «Ai» i sidemenyen og skrive en prompt.

Ekspert er kritisk

Det er ikke bare Molly og Selma som tenker at verktøyet kan misbrukes.

– Vi beveger oss bort fra morsomme kattevideoer du deler med vennene dine, til å manipulere sosiale settinger.

Det sier KI-ekspert ved Institutt for journalistikk Henrik Brattli Vold.

Han mener at AI på Snapchat skiller seg fra lignende tjenester på andre plattformer.

– Modellen lager troverdige sosiale settinger. Det er noe helt annet og mye mer inngripende.

Vold ser underholdningsverdien, men mener også at verktøyet har stort skadepotensial.

– Det er en drøm av et verktøy for en psykopat.

Mindre tillit

NRK har også snakket med KI-forsker ved Sintef Digital, Petter Bae Brandtzæg.

Han er kritisk til at KI manipulerer selve innholdet i kommunikasjonen mellom mennesker.

– Det tar vekk det autentiske i dialogen og kan skape mistillit.

Han frykter trakassering og mobbing og mener skillet mellom hva som er kunstig og virkelig blir for utydelig, selv om bildene blir merket.

– Det går fort på mobile plattformer og man ser på innholdet – ikke merkingen.

Hva sier Snapchat?

Snapchat har blitt forelagt kritikken fra ekspertene, men ønsker ikke å stille til intervju i saken.

På en e-post skriver de at bilder generert av «Imagine» blir tydelig merket.

Selskapet erkjenner at merkingen kan beskjæres ut, men mener at valg av design sender et viktig signal.

Ifølge Snapchat skal dette signalet motvirke at KI-generert innhold blir misbrukt.