Europarådets AI-traktat: Utsikter og fallgruver

Hvorfor oss?

Behovet for rask AI-innovasjon er drevet av bransjens konkurransekraft, og Big Tech fortsetter å investere tungt i AI-programmer. Konsekvensene av denne raske utviklingen er bittersøte.

Ja, kunstig intelligens er i ferd med å forandre mange viktige samfunnsinstitusjoner, som helsevesen og utdanning, men den blir også i økende grad involvert i kriminalitet. Deepfakes, feilinformasjon og brudd på personvernet har nådd et dystert omfang, noe som bekrefter behovet for meningsfull regulering og lovgivning.

Etter flere år med utarbeidelse og forhandlinger ble rammekonvensjonen vedtatt av Europarådet 17. mai 2024. Selv om det er bred støtte for regulering i bransjen, har det vært betydelig motstand mot det mange mener er en ufornuftig vurdering av risiko og fordeler som kan hindre innovasjon.

I denne artikkelen har vi undersøkt hva ekspertene mener om den nåværende reguleringen av KI.

Nøkkelpunkter

  • Rammekonvensjonen er den første juridisk bindende internasjonale traktaten om regulering av kunstig intelligens.
  • Traktaten anerkjenner AIs samfunnsmessige fordeler, men understreker behovet for å beskytte mot risikoer som diskriminering, brudd på personvernet og misbruk til repressive formål.
  • Eksperter uttrykker bekymring for at dagens regulatoriske tiltak kan hindre innovasjon og skape et ujevnt konkurranselandskap.
  • Mindre AI-selskaper kan slite med komplekse krav til etterlevelse, noe som kan få uforholdsmessig stor innvirkning på deres innovasjonsevne.

Viktige AI-reguleringsakter i dag

Konvensjon om kunstig intelligens: En viktig milepæl i styringen av kunstig intelligens

Etter flere år med utarbeidelse og forhandlinger ble rammekonvensjonen vedtatt av Europarådet 17. mai 2024.

Den ble offisielt åpnet for undertegning 5. september 2024 på justisministerkonferansen i Vilnius, der EU og Storbritannia var blant de første til å undertegne.

Storbritannias underskriver, Lord Chancellor Shabana Mahmood, uttalte:

«Kunstig intelligens har kapasitet til å forbedre responsen og effektiviteten til offentlige tjenester radikalt og sette turbo på den økonomiske veksten.»

Dette positive synet gjenspeiles i selve traktaten, som anerkjenner AIs evne til å fremme blant annet «individuell og samfunnsmessig velferd, bærekraftig utvikling, likestilling mellom kjønnene og myndiggjøring av alle kvinner og jenter».

Men alt er ikke bare solskinn og regnbuer.

Traktaten fremhever også hvordan kunstig intelligens kan undergrave menneskelig verdighet og autonomi, forsterke diskriminering og ulikhet og brukes til undertrykkende formål.

Lordkansleren anerkjente teknologiens mørke potensial og advarte:

“Vi må ikke la kunstig intelligens forme oss – vi må forme kunstig intelligens. Denne konvensjonen er et viktig skritt i retning av å sikre at disse nye teknologiene kan utnyttes uten å undergrave våre eldste verdier, som menneskerettighetene og rettsstatsprinsippet.”

Traktaten følger i fotsporene til Bletchley-erklæringen, som også ble hyllet som en banebrytende internasjonal innsats for å bekjempe de potensielle risikoene ved kunstig intelligens.

Rammekonvensjonen er imidlertid ikke en uforpliktende forpliktelse; når den er ratifisert, vil det være obligatorisk å slutte seg til den. Og hva er det egentlig de underskrivende landene forplikter seg til?

Viktige prinsipper

Tre viktige garantier ligger til grunn for rammekonvensjonen:

  • Beskyttelse av menneskerettighetene: Sikre at personopplysninger håndteres på en ansvarlig måte, at personvernet ivaretas, og at AI-systemer ikke diskriminerer noen.
  • Beskyttelse av demokratiet: Kravet om at landene må iverksette tiltak for å forhindre at kunstig intelligens undergraver offentlige institusjoner og demokratiske prosesser.
  • Beskyttelse av rettsstatsprinsipper: Landene som har undertegnet avtalen, er forpliktet til å regulere AI-relaterte risikoer, beskytte innbyggerne mot potensiell skade og sørge for trygg bruk av AI.

Avgjørende er at traktaten forsøker å finne en balanse mellom å fremme innovasjon og å redusere uansvarlig bruk.

Som statssekretær for vitenskap, innovasjon og teknologi, Peter Kyle, sa, kan AIs fulle transformasjonspotensial bare nås hvis «folk har tro på og tillit til innovasjonene som vil føre til denne endringen».

Balanse mellom innovasjon og ansvarlighet: Ekspertenes synspunkter

Gary Marcus: Tar til orde for etiske standarder og åpenhet innen AI

I juli 2024 snakket den anerkjente kognitive forskeren Gary Marcus åpenhjertig på AI for Good Innovate for Impact-arrangementet i Shanghai om behovet for sterke etiske standarder og et robust regelverk for utviklingen av AI.

Etter å ha advart om at teknologigigantenes prioriteringer ikke alltid er i tråd med menneskehetens interesser, uttalte Marcus: «Vi bør ikke la de store teknologiselskapene bestemme alt for menneskeheten.»

Fullstendig åpenhet var kjernen i Marcus’ appell:

«Vi trenger full redegjørelse for hvilke data som brukes til å trene opp modeller, full redegjørelse for alle AI-relaterte hendelser som påvirker skjevheter, nettkriminalitet, valgpåvirkning, markedsmanipulasjon og så videre.»

Selv om traktater som rammekonvensjonen forventes å avhjelpe slike problemer, erkjenner flere bransjefolk og jurister at de utgjør en potensiell trussel mot innovasjon.

Kate Deniston & Louise Lanzkron: Bekymringer over ulike tolkninger av regelverket

Kate Deniston og Louise Lanzkron fra det internasjonale advokatfirmaet Bird & Bird mener at traktatens brede og fleksible prinsipper kan føre til ulike tolkninger og anvendelser i ulike land.

Det virker sannsynlig at inkonsekvente reguleringsstandarder lett kan føre til ujevne konkurransevilkår, noe som vil hindre innovasjon i enkelte signatarstater.

Mark Zuckerberg og Daniel Ek: Advarer mot forebyggende regulering

I en artikkel nylig delte Mark Zuckerberg, grunnlegger og administrerende direktør i Meta, og Daniel Ek, grunnlegger og administrerende direktør i Spotify, sine synspunkter på det de oppfatter som Europas ønske om å begrense innovasjon gjennom regulering:

“Det er nødvendig å regulere mot kjente skader, men forebyggende regulering av teoretiske skader for nye teknologier som AI med åpen kildekode vil kvele innovasjonen. Europas risikoaverse, komplekse regulering kan hindre oss i å kapitalisere på de store satsingene som kan gi store gevinster.”

Mark Zuckerberg, grunnlegger og administrerende direktør i Meta, og Daniel Ek, grunnlegger og administrerende direktør i Spotify
Mark Zuckerberg, grunnlegger og administrerende direktør i Meta, og Daniel Ek, grunnlegger og administrerende direktør i Spotify. Kilde: Meta Meta

Dr. Fei-Fei Li: Kritikk av SB-1047s innvirkning på AI-innovasjon

Senatslovforslaget SB-1047 fra California, også kjent som «Safe and Secure Innovation for Frontier Artificial Intelligence Models Act», har fått lignende motbør på grunn av sin antatt skadelige effekt på innovasjon.

Dr. Fei-Fei Li, allment anerkjent som «AIs gudmor», sa:

“AI-politikken må oppmuntre til innovasjon, sette passende begrensninger og redusere konsekvensene av disse begrensningene. En politikk som ikke gjør det, vil i beste fall ikke nå sine mål, og i verste fall føre til alvorlige, om enn utilsiktede, konsekvenser.”

Li mener at SB-1047 «vil skade vårt spirende AI-økosystem» og «vil straffe utviklere på urimelig vis og kvele innovasjon».

Andrew Ng: Pushback på vage rapporteringskrav i SB-1047

På samme måte har datavitenskapsmann og teknologigründer Andrew Ng konsekvent kritisert SB-1047.

I en tweet nylig protesterte han mot lovforslagets vage og tvetydige rapporterings- og sertifiseringskrav. Etter å ha beskrevet hvor latterlig det er å forvente at utviklere skal forutse den potensielle skaden som deres AI kan forårsake, når ledende forskere sliter med å fastslå fremtidige konsekvenser, konkluderer NG med at:

“Dette skaper en skremmende situasjon for utviklere. Å begå mened kan føre til bøter og til og med fengselsstraff. Noen utviklere vil måtte ansette dyre advokater eller konsulenter for å få råd om hvordan de skal overholde disse kravene.”

Mindre selskaper: Sliter med komplekse regelverk

Selv om Marcus’ observasjoner om teknologigigantenes ansvarlighet er betimelige og bør vurderes nøye, er det kanskje ikke de store teknologibedriftene som vil rammes hardest av de nyeste AI-reglene.

Komplekse juridiske rammer, overregulering og strenge og ofte forvirrende standarder kan helt klart kvele innovasjonen – spesielt hvis du er et mindre selskap med færre ressurser – og gjøre den enkle etterlevelsen av regelverket urettferdig kompleks.

Konklusjon

Til tross for de gode intensjonene bak regelverket, ser kritikere av dagens tiltak på komplekse rammeverk og generell overregulering som potensielle fiender av innovasjon.

Men i lys av den raske utviklingen er rammekonvensjonen utvilsomt et viktig skritt i retning av en levedyktig verdensomspennende regulering.

Fokuset på å beskytte menneskerettighetene, demokratiet og rettsstatsprinsippene er beundringsverdig, men det vil alltid være en vanskelig oppgave å balansere innovasjon og regulering.

Ofte stilte spørsmål

Hva er Europarådets konvensjon om kunstig intelligens?

Hva er status for EUs AI Act i dag?

Hva er EUs politikk for kunstig intelligens?

Hva er EUs AI-lov fra mai 2024?

Relaterte begreper

Related Articles

John Raspin
Technology Journalist
John Raspin
Teknologijournalist

John Raspin tilbrakte åtte år i akademia før han begynte i Techopedia som teknologijournalist i 2024. Han har en grad i kreativ skriving og en doktorgrad i engelsk litteratur. Interessene hans ligger i AI, og han skriver morsomme og autoritative artikler om de siste trendene og teknologiske fremskritt. Når han ikke tenker på LLM-er, liker han å løpe, lese og skrive sanger.