Hva skjer når vi ikke må tenke?

KRONIKK: Vi tenker fordi vi må. Hva skjer når vi ikke må tenke?

Når et system fungerer godt nok lenge nok, slutter vi å følge med. Ikke av latskap. Av tillit. Foto: Shutterstock

«Du er en tenker,» sa mamma til meg da jeg var fem. «Nei,» svarte jeg. «Jeg er et menneske.» Men noe har skjedd med tenkningen min.

Jeg merket det først med lesingen. Bøker jeg før forsvant inn i, holder meg ikke lenger. Konsentrasjonen glir etter noen sider. Først trodde jeg det var telefonen. Det er verre.

Du tenker mindre. Langsomt. Umerkelig. Frivillig.

Hva skjer når maskinene tenker?

Faren er ikke at maskinene tar over. Det er hva som skjer med oss mens vi lar dem tenke. Fordi erstatningen er raskere, billigere og bedre, takker vi ja. Ikke av dumskap. Av rasjonalitet. Optimistene kaller det frigjøring.

AI er ikke det første verktøyet som avlaster hodet. Men det er det første som kan overta starten på tenkningen. Ikke bare svaret. Men kampen for å finne spørsmålet. I seksti år har vi spurt når maskinene vil tenke som oss. Vi burde heller spørre: Hva skjer med oss når de tenker for oss?

I januar i år publiserte to forskere ved Wharton en studie. 1 372 mennesker fikk logiske oppgaver og en chatbot. Den svarte noen ganger feil. Deltakerne adopterte de gale svarene åtte av ti ganger. Når AI tok feil, presterte brukerne dårligere enn de uten AI i det hele tatt. Det verste var ikke feilene. Det var selvtilliten som forble. Forskerne ga det et navn: kognitiv overgivelse. Du blir raskere. Du mister evnen til å gjøre det uten. Vi har startet et eksperiment på oss selv. Uten en kontrollgruppe.

Hva når autopiloten svikter?

Den 1. juni 2009 koblet autopiloten på Air France flight 447 fra over Atlanterhavet. Hastighetssensorene iset igjen. Alarmen skrek. Syttifem ganger. Flyet stupte. Pilotene trakk i hver sin retning. Ingen kommuniserte. Ingen overtok. Flyet falt fra 11.600 meter til havet på tre og et halvt minutt. Kopilot Pierre-Cédric Bonin, 32 år, holdt stikka bakover hele veien. «Men jeg har holdt stikka bakover hele tiden.» 228 mennesker døde. Ingen av dem hadde trent på manuell flyging i marsjhøyde. Hvorfor skulle de? Autopiloten fungerte jo alltid.

Når et system fungerer godt nok lenge nok, slutter vi å følge med. Ikke av latskap. Av tillit. Pilotene visste at autopiloten fløy. Det de ikke visste, var hvor fort de selv sluttet å kunne det.

Barna vet ikke at de ikke tenker. De har venner. De har søsken som krangler med dem. De har foreldre som sier nei. Maskinen krangler ikke. Den sier aldri nei. Den er der etter klokka ni, med uendelig tålmodighet. Null motstand. Du kan ikke miste noe du aldri bygde.

Min tanke eller ikke?

Maskinen beregner det neste ordet fra alt vi har skrevet. Det den ikke kan beregne, er ordet du ennå ikke har funnet. Og hva det gjør med deg når du finner det. Jeg vet det fordi jeg merker det selv. Det skjedde sent en kveld. Jeg prøvde å formulere noe jeg hadde tenkt på i uker. Setningen ville ikke lande. Så begynte jeg å snakke med maskinen. Ikke om setningen. Om det bak. Den stilte et spørsmål jeg ikke hadde stilt meg selv. Jeg svarte. Den fulgte opp. En time. To. Tanken fikk en form den aldri hadde hatt. Ikke maskinens form. Min. Uten de tjue blindgatene jeg pleier å gå inn i. Etterpå visste jeg ikke om tanken var min.

Men så sitter jeg en annen kveld og leser det maskinen har skrevet for meg. Min rytme. Mine vendinger. Argumentasjonen føles rett. Den hadde skrevet en vekststrategi for en bransje jeg kjenner. Tabellene stemte. Resonnementet holdt. Blindsonen var én antakelse. Ikke stor nok til å ødelegge teksten. Bare stor nok til å ødelegge strategien.

Jeg møter meg selv i døra. Hver dag i timevis. Tankene i dette essayet er hjulpet av det jeg advarer mot. Jeg vet hvor mye som er mitt. Så vidt. Det mest ærlige jeg kan si, er at maskinen skjerper noen tanker og bedøver andre. Forskjellen er som regel umerkelig. Og når jeg først oppdager den, er det etterpå.

Øv på å tenke

Jeg har ikke en løsning. Jeg har en øvelse. Hver dag prøver jeg å tenke én tanke helt ferdig uten hjelp. Det høres trivielt ut. Prøv det. Det er blitt overraskende vanskelig. Etterpå åpner jeg maskinen. Jeg vet ikke om øvelsen bygger en muskel eller bare lindrer samvittigheten.

En første tanke kommer fra et sted: en følelse, et minne, en fornemmelse, et instinkt. AI leverer ferdig tanke. Men fra ingensteds.

Det vi slutter å gjøre, slutter vi å være. Vi tenker fordi vi må. Hva skjer når vi ikke må? Autopiloten fungerer jo alltid.

«Du er en tenker,» sier mamma til min mellomste sønn. Jeg håper det forblir sant.