Slår alarm om EUs AI-regler

Europeiske teknologiselskaper presser for et «drastisk forenklet» AI-regelverk. Eksperter advarer om at forbrukerne kan sitte igjen med regningen.

Flere europeiske ledere møtte «EU AI Champions Initiative» 18. november. Dette initiativet, bestående av mange av de største europeiske selskapene, har pushet for forenklinger i regelverket. Foto: JOHN MACDOUGALL / Reuters / NTB

– Det er mange deler av forslaget som er svært alvorlig, skriver fagdirektør i Forbrukerrådet Finn Myrstad til E24.

EUs «Digital Omnibus Package» har som mål å forenkle AI-regelverket og andre digitale lovverk innenfor EU.

Dette inkluderer å utsette regler for høyrisiko-AI-systemerhøyrisiko-AI-systemerEU-lovgivningen opererer med en risikobasert klassifisering av AI-systemer, fra minimal til uakseptabel risiko. Høyrisiko gjelder blant annet systemer som er brukt i kritiske sektorer som utdanning og helse, og skal være underlagt visse krav. i opptil 16 måneder, samt lettelser i personvernforskriften, noe som kan gjøre det lettere å opplære AI-modeller.

Forbrukerrådet, sammen med en rekke andre organisasjoner, har sendt et åpent brev til regjeringen vedrørende forslaget.

– Vi er bekymret for at dette lovtillegget kan uthule grunnleggende forbruker- og menneskerettigheter, skriver Myrstad.

Han peker på at det er vanskelig å se for seg egne norske regler, ettersom forslaget gjelder et fullharmonisert regelverk.

– Derfor er det også veldig viktig at regjeringen jobber for sterkest mulig regler på EU-nivå.

EU-kommisjonen sender nå forslaget til Europarlamentet og RådetEuroparlamentet og RådetEuropaparlamentet og Rådet er EUs to lovgivende organer som behandler og vedtar lover sammen til gjennomgang, endring og vedtagelse.

– Vil ikke måtte be om samtykke

Ettersom mye av regelverket tidligere utformet av EU, inkludert regler for høyrisiko-AI-systemer, fortsatt ikke er gjeldende, mener Myrstad at det er for tidlig å foreslå tilbaketrekking av «helt grunnleggende krav».

– Vi er bekymret for endringene i ekom-direktivet, og en bred adgang til å bruke all slags personopplysninger, som helse, seksuell orientering og religiøs tilknytning til å trene og drifte AI-systemer.

– Meta vil ikke lenger måtte be om samtykke før de bruker alt vi noensinne har lagt ut på Facebook og Instagram til å trene opp kunstig intelligens, på tross av at norske forbrukere i flere runder har gitt tydelig beskjed om at de ikke ønsker dette.

– Det vil legitimere at selskaper driver med inngripende overvåkning av norske forbrukere, mener han.

Meta Platforms nektet i juli å signere EUs retningslinjer for kunstig intelligens, da de mente det er en overskridelse som kan strupe utviklingen, ifølge CNBC. Foto: Nic Coury / AP / NTB

Peter Norwood, seniorforsker og påvirkningsmedarbeider i Finance WatchFinance WatchFinance Watch er en uavhengig europeisk ideell organisasjon som driver forskning og påvirkningsarbeid innen finansiell regulering. , peker på hvordan forbrukerne til slutt kan ende opp med å betale prisen for dereguleringen.

– I henhold til disse forslagene kan en person bli nektet lån på grunn av en partisk AI-modell, eller bli belastet høyere forsikringspremier basert på forventet helsetilstand, alt uten sin viten eller samtykke, sier Norwood, til EuroNews.

– Forenkling skal ikke bety svekkede rettigheter

Digitaliserings- og forvaltningsministeren Karianne Tung sier at regjeringen er opptatt av at norske bedrifter ikke skal havne bakpå sammenlignet med europeiske konkurrenter.

Tung mener at det er mange bedrifter, særlig små og mellomstore, som opplever at det er krevende å forholde seg til flere digitale regelverk.

– Det er positivt at EU vil gjøre det enklere å drive virksomhet i det indre markedet, men mitt klare utgangspunkt er at forenkling ikke skal bety svekkede rettigheter for folk flest eller dårligere personvern.

– Jeg har merket meg reaksjonene på flere av forslagene knyttet til revidering av personvernforordningen her hjemme, og merker meg at lignende synspunkter kommer fra Europaparlamentet, skriver hun til E24.

Bedrifter jobber for et «drastisk forenklet regelverk»

Forenklingsforslaget kommer etter kritikk om at EUs AI-regler er for kompliserte og motstridende, og at EU dermed kan falle lenger bak USA og Kina innenfor AI, ifølge Bloomberg.

Det virker som om Europa nå beveger seg med hast. Europas få teknologigiganter har forpliktet milliarder av euro til europeiske AI-oppstartsbedrifter og -tjenester. Samtidig har statsledere gitt store løfter om å investere i massive datasentre som de fremstiller som kritiske for nasjonal sikkerhet og vekst, ifølge Bloomberg.

Flere europeiske AI-bedrifter har også pushet for en forenkling av EUs regelverk rundt AI.

Dette inkluderer 110 organisasjoner, bestående av ledende europeiske AI-selskaper som Mistral AI og ElevenLabs, men også selskaper som Novo Nordisk og Spotify, som støtter et initiativ som kaller seg selv for «EU Champions AI Initiative», først lansert i februar.

I et offentlig brev skrev initiativet at de søker å samarbeide med EU-kommisjonen og medlemslandenes regjeringer for å lage et «drastisk forenklet regelverk for kunstig intelligens»

Samtidig som de støtter «eksisterende tiltak for å lansere en omfattende kunstig intelligens-strategi for Europa».

EU AICIEU AICIEU Champions AI Initiative vil foreløpig ikke kommentere det nye EU-forslaget, ettersom det ikke er utviklet en offisiell posisjon sammen med medlemsbedriftene, forteller kontaktperson Christa Pfeffer til E24.

Legger tollgrep på bordet

Amerikanske selskaper og den amerikanske regjeringen har også presset på for endringer i regelverket rundt teknologiselskaper.

USAs handelsrepresentant Jamieson Greer og USAs handelsminister Howard Lutnick sier USA vil ha endringer i europeiske regelverk for teknologiselskaper i bytte mot endringer i de amerikanske metalltollene, ifølge BBC.

I august ble over 400 produkter som inneholdt stål og aluminium belagt med 50 prosent toll.

Lutnick beskrev oppmykning av regler som en mulighet for EU, og tilbød amerikanske investeringer i retur, hovedsakelig gjennom datasentre som kan drive kunstig intelligens. Europeiske lovgivere og sivilsamfunnsgrupper har de siste ukene uttrykt bekymring for at EUs digitale forenklingsinitiativ er ment å blidgjøre USA, noe EU har avvist, ifølge Politico.