1 hour ago
6
Internett, slik vi kjenner det, er i enorm forandring.
Bare siden lanseringen i 2022 har ChatGPT og andre språkmodeller gjort det mulig for hvem som helst å produsere store mengder KI-generert innhold.
Nå flommer nettet over av tekst, video og bilder som ikke er skapt av menneskehender, men kunstig intelligens.
– Det spås at innen få år så vil 99 prosent av alt innhold på nett være KI-generert, sier forsker Dag Slettemeås ved Forbruksforskningsinstituttet Sifo.
Det vil blant annet føre til en svært interessant problemstilling.
«Forgiftede» KI-modeller
Hittil har det nemlig vært slik at KI-tjenester som ChatGPT, Claude og Google Gemini har «trent» seg på menneskeskapt innhold.
Bøker, videoer, bilder, databaser, rapporter – rett og slett alt du kan tenke deg.
Hva skjer når andelen menneskeskapt innhold på nett blir så liten at KI må hente kilder fra allerede KI-generert stoff?
Noen forskere har ment at det vil «forgifte» KI-modellene.
En av de mest kjente studiene på dette feltet er studien om «rekursjonsforbannelsen», utført av forskere fra Oxford, Cambridge og universitetet i Toronto.
Der fant forskerne ut at KI-modellene produserte stadig mer tull jo flere ganger de kjørte den samme teksten gjennom nye modeller.
Etter ni generasjoner var teksten helt endret og meningsløs. Det er dette som kalles «modellkollaps» i KI-forskningen.
– Det kan jo være det skjer en slags forgiftning. Når alt blir syntetisk så mister man på en måte det meningsfylte og menneskelige i hverdagen. I tillegg blir det vanskelig å vite hva som faktisk er KI-generert innhold, sier Slettemeås.
– Ikke sikkert de trenger oss
Professor Morten Goodwin ved Universitetet i Agder er en av Norges fremste eksperter på kunstig intelligens, og han er er enig i at KI-generert innhold kommer til å dominere på nett.
Han tror derimot ikke nødvendigvis at språkmodellene vil bli «forgiftet» av å trene seg på hverandre.
Tvert imot mener han det fins en mulighet for at KI-verktøyene kan forsterke seg kolossalt.
– Ta sjakkspilling, for eksempel. Vi har sett KI-modeller bli gode i sjakk av å lære fra Magnus Carlsen, men da de fikk spille mot hverandre så ble de mye bedre!
Selv om sjakk-eksempelet er snevert, mener Goodwin dette viser at KI i teorien kan forbedre seg selv etter at menneskene har hjulpet dem i gang.
Goodwin nevner nettsamfunnet Moltbook, som ble lansert i januar i år, og angivelig kun består av KI-boter som snakker med hverandre.
– Det er ikke nødvendigvis slik at KI hele tiden er avhengig av at vi feilbarlige og slurvete mennesker skal fôre systemene med data. Trenger de oss etter å ha lært ulike språk og fått informasjon? Det er ikke sikkert.
Menneskelig verdi
Slettemeås i Sifo sier at det er umulig å spå hvordan det faktisk blir når det menneskeskapte innholdet blir i minoritet, men sier det kan bli en utvanningseffekt.
– Det blir jo også et filosofisk spørsmål om hvor høyt man vil verdsette menneskeskapt versus syntetisk innhold, og hvorvidt man anser menneskelig feilbarlighet som en verdi i seg selv, sett opp mot streben etter syntetisk ufeilbarlighet.
Forskeren opplyser at de har en KI-undersøkelse som viser at seks av ti nordmenn mener overflod av syntetisk innhold vil gi en motreaksjon og økt etterspørsel etter menneskelaget innhold.
– Må lete med lupe
Slettemeås mener det om få år vil bli nesten umulig å skille ekte fra falskt innhold.
– I dag må jo mediene, reklamebransjen og andre merke KI-generert innhold tydelig, men fremover blir en jo nødt til å lete med lupe for å finne det som er ekte og autentisk.
– Alternativt vil slik kontroll forsvinne fordi man bare må gå ut ifra at alt er KI-generert, eller så vil KI ta over denne jobben også – altså å skille autentisk fra syntetisk innhold, eller hjelpe oss med å avsløre KI-svindel.
Sifo-forskeren viser til en av deres undersøkelser, der det fremgår at den største bekymringen blant nordmenn (82 prosent) er at KI produserer innhold som blir så virkelighetstro at vi vil slite med å skille falskt fra ekte.
I mai lanserte søkeoptimaliseringsselskapet Graphite en ny rapport som viste at flertallet av artiklene på nett nå er produsert av kunstig intelligens.
Fôrer modellene
Desinformasjon er en av de største farene med alt dette KI-genererte innholdet, sier forskerne.
I fjor høst publiserte EBU en rapport som viste at 45 prosent av svarene fra KI-tjenester om nyheter i 18 forskjellige land inneholdt vesentlige feil.
Goodwin sier det er mange aktører i forskjellige land som prøver å påvirke språkmodellene i spesifikke retninger.
– Det siste eksempelet er Israel, som prøver å fôre modellene med desinformasjon. Slik får de tjenestene til å omtale krigføringen mer positiv enn den ellers ville gjort.
Goodwin tror dette vil føre til at folk i større grad vil oppsøke seriøse nyhetsmedier for å kunne få informasjon man kan stole på.
– Det vil alltid ha en verdi
– Men hvis tilnærmet alt på internett blir kunstig og KI-generert, hvilken verdi vil det menneskeskapte ha da?
– Det spørs litt hva man legger i ordet verdi. Det er helt åpenbart at menneskeskapt innhold alltid vil ha verdi for andre mennesker. Bryllupstalen jeg skrev til min kone skrev jeg helt selv, fordi jeg ville formidle mine helt egne ord til henne.
– På samme måte tror jeg mennesker alltid vil ha innhold fra gode forfattere eller gode malere. Verkene vil aldri være like maskin-perfekte, men de vil stamme fra et ekte menneske folk vil prøve å forstå.
– Det betyr noe, og vil alltid ha en verdi, sier Goodwin.
English (US)