KI kan gjøre eksperter dårligere – ikke bedre

Neste generasjon fagfolk blir snytt for viktige ferdigheter, skriver innleggsforfatteren. Foto: Illustrasjonsfoto: Anette Karlsen

Viktige ferdigheter kan gå tapt når eksperter overlater rutineoppgaver til KI-systemer.

Nylig publiserte det anerkjente medisinske tidsskriftet The Lancet en studie med oppsiktsvekkende funn: Bruk av kunstig intelligens gjorde gastroleger dårligere til å identifisere farlige polypper – et mulig forstadium til kreft i tarmen.

Vi som forsker på KI og bruken av slike systemer, ser med bekymring på det vi mener er forklaringen: Viktig ekspertise går tapt når fagfolk ikke får mengdetrening.

Taus kunnskap

En viktig del av kunnskapen til eksperter er «taus»: Den kan kun erverves gjennom øving, ikke lesing.

Brødet du baker, blir sjelden like godt som bakerens, selv om du følger oppskriften. Bakerens tause kunnskap får du bare gjennom erfaring.

Når KI-systemer overtar rutineoppgaver, kan fagfolk miste sjanser til nettopp å øve. I en ennå upublisert studie, der vi testet et KI-system ved et norsk sykehus, så vi tendenser til at dette skjedde ved opplæring av klinikere.

To uønskede effekter

På sikt kan slik bruk av KI få to uønskede effekter:

• Neste generasjon fagfolk blir snytt for viktige ferdigheter. Seniorer i medisin og ingeniørfag overfører i dag viktig ekspertise til juniorer etter mester-lærling-modellen. Når KI-systemer overtar treningsoppgaver, kan juniorene bli dårligere seniorer enn de skulle vært.
• Vi kan ende opp med leger som ikke har forutsetninger for å vurdere om svarene fra KI-systemer er riktige.

Gastrolege-studien i The Lancet omfattet fire sykehus i Polen, der leger brukte KI under koloskopi (kameraundersøkelse av tykktarmen) til å lete etter polypper. Etter bare tre måneder overså legene polypper de før hadde oppdaget i 21 av 100 pasienter.

Tid til viktigere ting?

Mange tror godt betalte eksperter kan bli frigjort til viktigere arbeid ved å la dem slippe enkle, oppgaver med mye repetisjon. Men for eksperter, som leger, gir noen rutineoppgaver viktig trening som bidrar til å vedlikeholde ekspertisen deres.

Så hvordan utnytte fordelene KI åpner for, blant annet i helsevesenet, uten at umistelig taus kunnskap går tapt? Jo, ved å la ekspertene fortsette å trene, men med KI som partner.

Legene i vår egen studie brukte KI som en ekstra kvalitetssikring av sine egne vurderinger. De øvde videre, med KI-systemet som sikkerhetsnett til å fange opp menneskelige feil. Erfaringen kan med fordel dras inn i andre yrker der KI etablerer seg.

Mange tror KI alltid øker produktiviteten, og at oppgaver med mye repetisjon ikke bør gjøres av mennesker. Sjefen vil ikke du skal bruke tid på noe maskiner kan gjøre.

Samtidig forventes det at du er ekspert på ditt felt. Men når du ikke får trent opp basiskunnskap som trengs til de kompliserte oppgavene, er du ille ute.

Du ble jo ekspert ved å øve på enklere oppgaver først. Eksperter oppdaterer også kunnskapen sin ved å gå tilbake til slike oppgaver. Litt som når toppidrettsutøvere fortsetter å trene på grunnleggende ferdigheter gjennom karrieren sin.

På kort sikt er det fristende å ta ut en mulig produktivitetsvekst ved hjelp av KI. Men hva hjelper det hvis vi står igjen uten ansatte med nødvendig kunnskap til å løse kjerneoppgavene til bedrifter og sykehus?