Her har KI gått skikkelig galt

Nå skal «alle» bruke kunstig intelligens.

Men uten nok kunnskap eller en god plan for hva teknologien faktisk kan og burde brukes til, kan det gå skikkelig galt.

Som da en amerikansk avis publiserte sommerens bokanbefalinger.

Problemet var bare at bøkene som ble anbefalt i artikkelen ikke fantes. KI hadde diktet opp det hele.

Eller da en australsk advokat brukte KI til å utarbeide rettsdokumenter. Dokumentene var fulle av referanser til ting som ikke eksisterer.

En menneskelig ansatt på restaurant ville trolig stusset litt over bestillingen, dersom en kunde la inn en bestilling på 18.000 glass med vann.

Det gjorde ikke KI-tjenesten til den amerikanske fastfood-kjeden Taco Bell.

Etter at de rullet ut KI på alle sine «drive-through»-restauranter, florerte det med videoer på nettet av bestillinger hvor det gikk ordentlig galt.

– Jeg skal være ærlig, vi har lært mye, sa sjefen for teknologi i Taco Bell, Dane Mathews til The Wall Street Journal.

Fremover vil de tenke nøye gjennom hvor de skal ta i bruk teknologien.

Det er ikke sikkert det gir mening å bruke KI på alle «drive-through»- restaurantene, sa Mathews til avisen.

Kårer de dårligste KI-ideene

Eksemplene over kommer fra internett-kåringen «AI Darwin Awards».

Den dukket opp på internett i år, og skal dele ut priser for bruk av KI som resulterer i komiske katastrofer.

Avisen Forbes har snakket med en programvareutvikler som hevder han står bak prisutdelingen.

Han forteller til avisen at han lanserte «AI Darwin Awards» forrige måned mest som en spøk, men også som en frekk påminnelse om at det til syvende og sist er mennesker som bestemmer hvordan teknologi blir brukt.

– Kunstig intelligens er bare et verktøy, som en motorsag, en atomreaktor eller en spesielt aggressiv blender, står det på prisens nettside.

– Det er ikke motorsagens feil når noen bestemmer seg for å sjonglere med den på et middagsselskap.

Den nye kåringen ligner internettkåringen «Darwin Awards», som har vært en populær årlig prisutdeling på internett. De deler ut priser til folk som mister livet på tragikomiske og uvanlige måter.

– Dypt hull

Også her til lands har det gått skikkelig galt.

Tromsø kommune la tidligere i år frem et forslag til ny skolestruktur. Hvor det senere viste seg at forskningen det ble referert til ikke eksisterte. Norske professorer var sitert på ting de aldri hadde skrevet.

– Du bør ikke bruke KI til alt, sier KI-ekspert Morten Goodwin.

Det er ikke så mye som skal til for at det går galt.

– Når KI-en kortslutter den menneskelige tankeprosessen og for eksempel jurister bruker ChatGPT til å tenke for seg, istedenfor å tenke selv, da graver vi oss ned i et dypt hull, sier han.

Kunstig intelligens er trent på datasett med informasjon. Det er denne tidligere kunnskapen som gjør at språkmodellene klarer å svare deg når du stiller den spørsmål.

Utfordringen med dette er at språkmodellen kan ende opp med å forsterke fordommene som allerede ligger i vår felles historie.

– Det gjør at den typisk kan være litt dårligere på saker som handler om kvinner enn de som handler om menn, sier Goodwin.

Innen året er omme skal 80 prosent av offentlig sektor ta i bruk KI. Det var i alle fall det uttalte målet til digitaliseringsminister Karianne Tung i fjor.

Goodwin mener det i utgangspunktet er en god idé. Men han er ikke så sikker på at det gjøres på riktig måte.

Hvis du tar i bruk språkmodellene ChatGPT eller Copilot vil du ha de samme utfordringene med fordommer. Modellene eies av amerikanske selskaper som er trent på data som ikke nødvendigvis speiler norske verdier.

– Det er som å si at deler av offentlig sektor ikke skal styres av oss, men det skal styres av hvem enn som styrer ChatGPT eller de andre verktøyene, advarer Goodwin.

– I tillegg til at vi kan feile og må sjekke og kvalitetssikre, har vi plutselig OpenAI som leverer tjenester i praksis gjennom norske kommuner.

Han mener det er behov for at flere velger å satse på å bygge norske modeller.

– Sånn at man virkelig skjønner hvordan man skal bruke kunstig intelligens til det beste for norske innbyggere.