De første KI-systemene som sviktet oss

4 hours ago 3

FEIGE LAG. – For unge som prøver å begrense skjermbruken sin, er det feige lag, skriver E24s spaltist.

Algoritmene valgte engasjement fremfor sannhet, demokrati og sikkerhet. Det var ikke en feil, men forretningsmodellen. Spørsmålet er hvorfor vi godtok det, og hva vi bør lære.

Eirin Larsen
Teknologistrateg i Telenor

Publisert: Publisert:

For mindre enn 40 minutter siden

E24s faste spaltister skriver jevnlig og gir uttrykk for sine egne holdninger.

Husker du sosiale medier før algoritmene? Da Facebook-strømmen var kronologisk og innlegg kom i rekkefølgen de ble publisert?

Med mottoet «move fast and break things» bygget utviklerne i Hacker Way 1 et stadig mer avansert rangeringssystem. Alle fikk sin egen feed, sin egen virkelighet.

Facebook-algoritmen ble folk flest sitt første møte med kunstig intelligens. Men KI-systemet var feiljustert – misaligned – ikke i tråd med samfunnets verdier. Enigheten om det er såpass bred at også OpenAI-sjef Sam Altman stemmer i, ironisk nok på X.

I dag diskuteres skjermtid og aldersgrenser, men det er bare toppen av isfjellet. De største problemene ligger i plattformenes grunnmur: systemer designet for vekst, ikke velferd. For profitt, ikke demokrati.

Det startet med algoritmen.

Engasjement ble hovedkriteriet. Ingenting ble spredt dersom ingen reagerte. Målet var å ta «mest mulig av tiden og oppmerksomheten din», sa Sean Parker, en av grunnleggerne, til Axios. Svaret ble «et lite dopaminkick» fra liker-knappen og «en sosial valideringssløyfe ... som utnytter en sårbarhet i menneskelig psykologi».

Særlig for unge jenter på Instagram, var dette bekreftelsesjaget svært skadelig, viste senere lekkasjen Facebook Files.

Etter hvert ble liker-knappen supplert med flere reaksjoner.

Fra 2017 ble hjerte, omtanke, latter, sjokk, tristhet og sinne vektet fem ganger tyngre enn et nøytralt «liker», ifølge Washington Post. Sterke følelser ga rekkevidde, og interne utviklere advarte om at vektingen kunne føre til mer spam, misbruk og klikkagn.

Samtidig skrev Facebook-sjef Mark Zuckerberg om «det naturlige mønsteret for engasjement». I sitt Blueprint fra 2018 viser han til intern forskning som viser at «uansett hvor grensen går, vil innhold som nærmer seg grensen skape mer engasjement». Jo drøyere, jo større spredning – en effekt han da hevdet å ville dempe.

Mange såkalte edge lords hadde allerede oppdaget denne suksessoppskriften. Med strategisk provokasjon vekket de harnisk og harme og ble belønnet med synlighet, følgere og etter hvert penger.

Rollen som samfunnsdebattant gled sømløst over i ren forretningsmodell.

Oppmerksomhetsøkonomien, som økonomen Herbert Simon beskrev allerede på 1970-tallet, fikk sitt gjennombrudd i Facebooks glansdager. Brukerne ble ikke kunder, men øyeepler solgt til annonsørene. Deres tid, følelser og data ble plattformens valuta.

I 2018 var tydeligvis Cambridge Analytica kunden, da 87 millioner Facebook-brukere var profilert uten samtykke og brukt til målrettet politisk reklame, blant annet under 2016-valget i USA og Brexit-kampanjen. Her møter oppmerksomhetsøkonomien storebror overvåkningskapitalismen. Sosialpsykologen Shoshana Zuboff beskrev systemet der menneskelig erfaring samles inn som rådata, analyseres og selges til den som vil forutsi og påvirke adferd. Plattformenes makt ble tydelig.

Så kom TikTok. Med oppkjøpet av Musical.ly i 2018 fikk den kinesiske appen et globalt ungt publikum over natten. TikTok satte rekord i personalisering og gjorde korte høydevideoer til normen. Oppmerksomheten måtte fanges fra første sekund. Brukerne sveipet raskere, byttet oftere, så «bare én til» og skrollet lenger enn planlagt.

Der Facebook var bygget rundt relasjoner, var TikTok en algoritmisk underholdnings- og salgskanal. Da trengtes andre virkemidler enn mellommenneskelig bekreftelse – nemlig sterkere, kontinuerlig algoritmisk stimulans. Mekanismen ligner Skinnerboksen, det klassiske psykologiske eksperimentet som viser hvordan tilfeldig belønning forsterker adferd langt mer effektivt enn forutsigbarhet. Resultatet er en vedvarende jakt på neste treff og en mer oppslukende innholdsstrøm.

For unge som prøver å begrense egen skjermtid, er det feige lag.

Mens Oxford University Press kåret brain rot til årets ord i 2024, prøvde forskere å dokumentere sammenhengen. Flere kobler overstadig skrolling til konsentrasjonsvansker. Det bekreftes også av svogerforskning på foreldremøter og i lunsjen.

Ifølge Johann Hari, som skrev boksuksessen «Stjålet Fokus» om oppmerksomhetskrisen i 2023, risikerer vi mer enn individuell distraksjon. I et demokrati trengs oppmerksomhet for å «identifisere reelle problemer, skille dem fra fantasier, utvikle løsninger og holde lederne ansvarlige dersom de ikke leverer». Han advarer mot at overstimulerte og distraherte mennesker «vil lettere trekkes mot forenklede autoritære løsninger, og være mindre i stand til å se klart når disse feiler.»

Les også

Kina og Vesten: Velkommen til fremtiden

I Facebooks barndom hang slagordet Move fast and break things på veggene. Sarah Wynn-Williams, som senere ble selskapets direktør for global policy, frykter i dag at feilene og beslutningene gjentas, drevet av den samme kulturen der vekst og gevinst trumfer samfunnsrisiko og demokratiske hensyn.

Aza Raskin, som 22-åring hos Google utviklet uendelig skroll, teknologien som gjør nyhetsstrømmen bunnløs, angrer i dag. Han forutså ikke konsekvensene. På samme måte sitter utviklere nå og skrur på brøkdeler av KI-systemer ingen ser omfanget av. Denne gangen med en president som vil forby KI-regulering.

Tør vi satse på at det denne gangen er andre verdier enn vekst og profitt som ligger til grunn i Silicon Valley?

Sosiale medier har endret mediene, skolesystemet, politikken, verden. Vi har fått spilleregler som ikke er laget for vårt eget beste. Likevel er plattformene fortsatt vår primære infrastruktur for kommunikasjon.

Det haster å regulere, bygge alternativer og forstå mønstrene før samfunnet omkodes på nytt med enda mer kunstig intelligens.

Mindre skjermtid og aldersgrenser er kanskje en start, men skal vi bevare demokratiet, må vi reparere grunnmuren.

Dette er E24s faste spaltister

Alle spaltene kan leses her.

TEKNOLOGI. Sophia Adampour
Grunnlegger av teknologihubben Verse. Skriver om blokkjede, krypto og teknologi.
TEKNOLOGI. Eirin Larsen
Teknologistrateg i Telenor og styremedlem i Fritt Ord. Tidligere journalist i bla. Adresseavisen og Dagens Næringsliv.
TEKNOLOGI. Ishita Barua
KI-forsker ved UiA, PhD, lege og techgründer.
UTENRIKS. Ine Marie Eriksen Søreide
Leder i Stortingets utenriks- og forsvarskomité (Høyre). Tidligere forsvarsminister og utenriksminister.
UTENRIKS. Espen Barth Eide
Utenriksminister (Ap). Tidligere klima- og miljøminister.
UTENRIKS OG POLITIKK. Asle Toje
Utenrikspolitisk kommentator og forsker.
POLITIKK, KLIMA OG ENERGI. Øystein Sjølie.
Utdannet samfunnsøkonom fra Universitetet i Oslo. Har vært byråkrat og journalist. De siste årene har han skrevet mye om klima- og energiutfordringen, og publiserte "Oljeboka" i 2024.
POLITIKK. Mathias Fischer
Daglig leder i Initiativ Vest. Tidligere journalist og politiker.
EU OG EUROPA. Lina Strandvåg Nagell
Leder for Prosjekter og EU-Politikk ved Bellonas Brussel-kontor. Skriver spalten Fra Brussel om hva som skjer i unionen.
EU OG EUROPA. George Riekeles
Assisterende direktør ved den Brussel-baserte tenketanken European Policy Center (EPC). Før dette var han blant annet diplomatisk rådgiver for EUs sjefforhandler under Brexit. Skriver spalten Fra Brussel om hva som skjer i unionen.
OLJEFONDET. Carine Smith Ihenacho
Direktør for eierskap og etterlevelse, Norges Bank Investment Management, populært kalt Oljefondet.
NÆRINGSLIV. Johan Andresen
Styreleder og investor i Ferd-konsernet, med et ekstra engasjement for sosialt entreprenørskap.
SKATT. Bettina Banoun
Advokat, dr.juris. og partner i Wiersholm. Også medlem av Skatteutvalget.