Bengios KI-advarsler bør tas på alvor

KI-forsker Yoshua Bengios advarer om at kunstig intelligens kan komme ut av kontroll. Foto: Michel Euler, AP/NTB

At kunstig intelligens skaper alvorlige problemer i dag, betyr ikke at vi kan avfeie fremtidens trusler.

Vi hevdet 24. november at UiO-professor Arnoldo Frigessi avfeide KI-forsker Yoshua Bengios advarsler om at kunstig intelligens (KI) kan komme ut av kontroll. Frigessi svarer med å vise til sitt arbeid for trygg KI. Det anerkjenner vi fullt ut. Der vi skiller lag, er vurderingen av risikoen KI kan innebære på lengre sikt. Frigessi advarer om at et fokus på fremtidige trusler «distraherer» dagens utfordringer. Vårt poeng er at man må ha to tanker i hodet samtidig.

KI bidrar allerede til ekstrem maktkonsentrasjon og kan brukes til ideologisk påvirkning og autonome cyberangrep. Dette er reelle problemer, men utelukker ikke at KI kan bli en større og annerledes trussel i fremtiden. Astronomiske beløp investeres for å skape superintelligens. Løsningene som trengs for å kontrollere en slik teknologi, finnes ikke i dag og krever målrettet forskning over år – i tillegg til arbeidet Frigessi og andre gjør.

Bengios advarsler bør tas på alvor. Derfor må vi arbeide sammen om å løse både dagens og fremtidens KI-utfordringer.