Det skal være vanskelig

Regjeringen har nærmest varslet et forbud mot kunstig intelligens i barneskolen. For de yngste elevene: ingen KI.

Begrunnelsen var at barna må lære å lese, skrive og regne, og at KI lar dem hoppe over trinnene på veien.

Regjeringen har rett.

Men den har gjort bare halve jobben, av en grunn debatten har oversett.

Bare dager tidligere lanserte Anthropic sin kraftigste KI-modell for allmennheten. Den utmerker seg i analyse, skriving og resonnering. Akkurat det skolen ber elevene øve på.

Vi kan slutte å diskutere om KI er god nok til skolearbeid. Den er nå bedre enn de fleste.

Debatten om KI i skolen har handlet om juks, vurdering og digitale ferdigheter. Vi diskuterer som om dette er nytt terreng. Det er det ikke. Vi har kjørt lignende eksperimenter før, på piloter og prosessoperatører, og vi vet hvordan det endte.

En 43 år gammel advarsel

I 1983 publiserte den britiske psykologen Lisanne Bainbridge en kort artikkel med tittelen «Ironies of Automation».

Hennes hovedpoeng var et paradoks: Jo bedre automatiseringen blir, desto viktigere og vanskeligere blir menneskets rolle.

Ironien har to deler. Den første er at maskinen overtar de enkle delene av en oppgave, og mennesket sitter igjen med de vanskelige. Den andre, og farligere, er at ferdigheter forvitrer når de ikke brukes.

Operatøren som i årevis bare har overvåket et automatisk anlegg, har mistet nettopp de ferdighetene han trenger den dagen anlegget svikter.

Da Air France 447 styrtet i Atlanterhavet i 2009, hadde pilotene tusenvis av flytimer, nesten alle med autopilot. Da automatikken koblet seg ut, manglet de håndlaget til å fly maskinen manuelt.

Bainbridge hadde beskrevet ulykken 26 år før den skjedde.

Hennes skarpeste observasjon er denne. Vi setter inn datamaskinen fordi den gjør jobben bedre enn mennesket, og ber så mennesket overvåke at den gjør jobben riktig.

Det er en umulig oppgave.

For å vurdere maskinens arbeid trenger du nettopp den kompetansen som forvitrer mens du ser på.

Ingen alarm går

Mønsteret gjentar seg nå, med én avgjørende forskjell. Det som forvitrer, er ikke lenger håndlag på en spak. Det er skriving, analyse, vurdering. Tenkningen selv.

Piloten merker at flyet svinger ustøtt. Den som lar KI skrive for seg, ser aldri teksten hen selv ville ha skrevet.

Det finnes ingen alarm som varsler at dømmekraften din har rustet.

For yrkesaktive er dette alvorlig nok. For utdanningen bryter selve logikken sammen. I arbeidslivet kan delegering til KI gi verdi. Notatet blir skrevet, koden levert. Forvitringen er en utilsiktet effekt av et reelt produkt. I skolen var teksten aldri poenget.

Ingen trenger en tiendeklassing sin stil om andre verdenskrig.

Poenget var endringen i hodet til den som skrev den. KI lar studentene beholde biproduktet og kaster produktet. Hos den voksne fagpersonen forvitrer en ferdighet som finnes. Hun vet hva kompetanse kjennes som, og merker at den glipper.

Hos eleven forvitrer ingenting. Den blir bare aldri til.

Hukommelsesforskeren Robert Bjork har kalt motstanden i læring «ønskelige vanskeligheter»: Anstrengelsen er ikke en feil ved læringen, den er mekanismen.

KI er nesten per definisjon en maskin for å fjerne anstrengelse.

Kalkulatoren skulle også ødelegge skolen. Det gikk bra. Men den automatiserte utregningen, ikke resonneringen den inngikk i. KI automatiserer resonneringen selv. Bainbridge påpekte også at automatikk kan kamuflere feil.

Systemet kompenserer i det stille, og avviket blir først synlig når det er for stort til å rettes. Det er KI-polerte innleveringer. Læreren overvåker et signal som er koblet fra. Teksten beviser ikke lenger at tenkningen har funnet sted.

Læringssvikten kamufleres helt til eksamen eller arbeidslivet, der gapet endelig blir synlig.

Og dyrt.

Når Malthe-Sørenssen-utvalget nå anbefaler universitetene å bruke flere kontrollerte eksamensformer, er det ikke nostalgi.

I 1977 foreslo ingeniører i britiske kjernekraftverk at de viktigste prosessverdiene skulle vises på direktekoblede, analoge instrumenter. En kanal som ikke kan forfalskes. Det er hva en skoleeksamen er. Det dypeste problemet er generasjonelt.

I arbeidslivet spiser KI førsteutkastene og rutinesakene, som var stigen juniorene klatret opp.

I utdanningen er hele institusjonen stigen. Hver oppgave er, med vilje, noe verden ikke trenger få gjort. Den består bare av trinn. Automatiserer man dem, står ikke stigen igjen.

Denne våren holdt jeg kurs om KI for erfarne fagfolk. De som best klarte å vurdere KI-svarene, var de som hadde gjort oppgavene manuelt i årevis.

En studie fra Microsoft og Carnegie Mellon av 319 kunnskapsarbeidere peker samme vei: Jo større tillit til KI, desto mindre kritisk tenkning.

Dagens dømmekraft er bygget i en skole uten KI. Spørsmålet er hva neste generasjon skal bygge sin med.

Autopilot eller simulator

Må KI ut av skolen? Nei.

Håpet finnes i Bainbridges eget rammeverk. Hun skilte mellom autopiloten, som gjør jobben for deg, og simulatoren, som tvinger deg til å gjøre jobben selv, med tilbakemelding.

Hennes råd: Invester i simulatorer når treningen forsvinner.

Den samme KI-modellen kan være begge deler. En KI som skriver stilen, er en autopilot. En KI som stiller spørsmål ved utkastet ditt, lager oppgaver tilpasset dine feil -og forklarer begrepet så mange ganger du vil og når som helst, er en simulator.

Personlig veiledning er blant de mest effektive tiltakene utdanningsforskningen kjenner.

At en veileder per elev aldri lot seg skalere, har vært et kjent problem siden 1980-tallet. KI er den første realistiske muligheten.

Om eleven møter autopiloten eller simulatoren, avgjøres ikke av modellen, men av insentivene. Elevens insentiv peker mot autopiloten: karakteren, i kveld, med minst mulig smerte.

Vi kan ikke basere skolen på at femtenåringer selv pålegger seg motstand som teknologien tilbyr å fjerne. Det er et systemansvar. Vurderingsformer som krever synlig tenkning.

KI-verktøy i skolen som er bygget som simulatorer, ikke autopiloter.

Skjermet rom for uassistert arbeid, ikke som straff, men som trening. Og måling, gjennom de samme uassisterte kanalene, for bare der virker signalet.

I dag rulles teknologien ut uten at noen følger med på det eneste som teller, om elevene faktisk lærer. Malthe-Sørenssen-utvalget har bedt om innspill før sin endelige innstilling i høst. Dette er ett.

Bainbridges siste ironi var denne: De mest vellykkede automatiserte systemene krever de største investeringene i å lære opp mennesker. Utdanningen er den opplæringen. Automatiserer vi den, river vi bort det som skulle gjøre automatiseringen trygg.

Regjeringen har skjermet det første trinnet. Det var riktig. Men et forbud fjerner autopiloten. Det bygger ikke simulatoren.

Resten av stigen står igjen.