Kina vil ta grep mot AI-avhengighet

Nye forslag kan ramme alt fra chatboter til virtuelle assistenter – og tvinge teknologiselskaper til å gripe inn overfor brukere som blir for avhengige.

He Xiaopeng, medgründer og styreleder i Xpeng, lanserer humanoid-roboten Iron i Guangzhou i Kina, 5. november. Foto: JADE GAO / AFP / NTB

Kina har foreslått nye regler som skal regulere kunstig intelligens som simulerer menneskelige personligheter og engasjerer brukerne følelsesmessig, melder Reuters.

De foreslåtte reglene gjelder AI-tjenester som presenterer simulerte menneskelige personlighetstrekk, tenkemønstre og kommunikasjonsstiler. Tjenestene interagerer med brukerne følelsesmessig gjennom tekst, bilder, lyd, video eller på andre måter.

– Leverandørene får et tydelig ansvar for brukernes sikkerhet og psykiske helse, fremgår det av dokumentene.

Samtidig stilles det strengere krav til kontroll av algoritmer, datasikkerhet og personvern.

Myndighetene trekker også opp klare grenser for hva AI-tjenester kan si og gjøre. Innhold som kan true nasjonal sikkerhet, spre rykter eller fremme vold og pornografi, blir forbudt.

Må gripe inn ved avhengighet

Ifølge Bloomberg må brukere informeres tydelig om at de kommuniserer med kunstig intelligens – både ved innlogging og minst annenhver time. Tjenester med rask vekst eller mange brukere må i tillegg rapporteres til myndighetene.

Ifølge utkastet må leverandører advare brukere mot overdreven bruk og gripe inn når brukerne viser tegn på avhengighet.

Kina satser tungt på kunstig intelligens som motor for økonomisk vekst, men ønsker samtidig tett kontroll over teknologien.

Leverandører må gjennomføre sikkerhetsvurderinger og sende rapporter til provinsmyndigheter provinsmyndigheter Provinsmyndigheter er lokale myndigheter som styrer en bestemt region eller provins i et land.hvis de lanserer menneskelignende AI-funksjoner. Det samme gjelder tjenester som får en million registrerte brukere eller 100.000 månedlige aktive brukere.

Forslagene er åpne for høring frem til 25. januar.