Vi må demokratisere produksjonen av KI og sørge for at den tjener allmennheten

Jeg er bekymret for den KI-en som er i kontroll – systemene som utvikles for å maksimere avkastning for risikokapital, skriver innleggsforfatteren. Foto: Kiichiro Sato / AP

Jeg deler Yoshua Bengios bekymring for misbruk av KI.

Ifølge Preben Ness og Tellef S. Raabe i Aftenposten 24. november «feier jeg til side» den kanadisk informatikeren Yoshua Bengios bekymringer. De kunne ikke tatt mer feil.

Jeg deler Bengios bekymring for misbruk av KI. I motsetning til det Ness og Raabe hevder, dedikerer jeg all min forskning til å bygge KI som er fundamentalt mer pålitelig, bærekraftig og inkluderende. Som leder av Integreat tar vi ved Integreat, fremragende forskning ved Matematisk institutt ikke bare til orde for trygg KI: Vi implementerer den. Ved å integrere domenekunnskap i KI, oppnår vi større kontroll og evne til kritisk vurdering og bidrar aktivt til den typen KI Bengio ser for seg.

Vi har nylig lansert Trust, Norsk senter for pålitelig KI. I Bengios ånd samler Trust ekspertise fra beregningsvitenskap, jus og filosofi og etablerer nye rammeverk som testes på tvers av sektorer som helse, mobilitet og klima.

Ness og Raabe frykter at KI kommer ut av kontroll. Jeg er mer bekymret for den KI-en som er i kontroll – systemene som utvikles for å maksimere avkastning for risikokapital. Vi må demokratisere produksjonen av KI, sørge for at den tjener allmennheten. Det er viktig å sette alarmene der det haster mest, og ikke der de distraherer.