Behovet for rask AI-innovasjon er drevet av bransjens konkurransekraft, og Big Tech fortsetter å investere tungt i AI-programmer. Konsekvensene av denne raske utviklingen er bittersøte.
Ja, kunstig intelligens er i ferd med å forandre mange viktige samfunnsinstitusjoner, som helsevesen og utdanning, men den blir også i økende grad involvert i kriminalitet. Deepfakes, feilinformasjon og brudd på personvernet har nådd et dystert omfang, noe som bekrefter behovet for meningsfull regulering og lovgivning.
Etter flere år med utarbeidelse og forhandlinger ble rammekonvensjonen vedtatt av Europarådet 17. mai 2024. Selv om det er bred støtte for regulering i bransjen, har det vært betydelig motstand mot det mange mener er en ufornuftig vurdering av risiko og fordeler som kan hindre innovasjon.
I denne artikkelen har vi undersøkt hva ekspertene mener om den nåværende reguleringen av KI.
Nøkkelpunkter
- Rammekonvensjonen er den første juridisk bindende internasjonale traktaten om regulering av kunstig intelligens.
- Traktaten anerkjenner AIs samfunnsmessige fordeler, men understreker behovet for å beskytte mot risikoer som diskriminering, brudd på personvernet og misbruk til repressive formål.
- Eksperter uttrykker bekymring for at dagens regulatoriske tiltak kan hindre innovasjon og skape et ujevnt konkurranselandskap.
- Mindre AI-selskaper kan slite med komplekse krav til etterlevelse, noe som kan få uforholdsmessig stor innvirkning på deres innovasjonsevne.
-
- Gary Marcus: Tar til orde for etiske standarder og åpenhet innen AI
- Kate Deniston & Louise Lanzkron: Bekymringer over ulike tolkninger av regelverket
- Mark Zuckerberg og Daniel Ek: Advarer mot forebyggende regulering
- Dr. Fei-Fei Li: Kritikk av SB-1047s innvirkning på AI-innovasjon
- Andrew Ng: Pushback på vage rapporteringskrav i SB-1047
- Mindre selskaper: Sliter med komplekse regelverk
- Se hele listen
-
- Gary Marcus: Tar til orde for etiske standarder og åpenhet innen AI
- Kate Deniston & Louise Lanzkron: Bekymringer over ulike tolkninger av regelverket
- Mark Zuckerberg og Daniel Ek: Advarer mot forebyggende regulering
- Dr. Fei-Fei Li: Kritikk av SB-1047s innvirkning på AI-innovasjon
- Andrew Ng: Pushback på vage rapporteringskrav i SB-1047
- Mindre selskaper: Sliter med komplekse regelverk
Viktige AI-reguleringsakter i dag
- Bletchley-erklæringen om AI-sikkerhet (november 2023)
- Senatets lovforslag SB-1047 i California (februar 2024),
- EUs AI-lov (august 2024),
- Europarådets første juridisk bindende internasjonale AI-sikkerhetstraktat, rammekonvensjonen om kunstig intelligens og menneskerettigheter, demokrati og rettsstatsprinsipper (mai 2024).
Konvensjon om kunstig intelligens: En viktig milepæl i styringen av kunstig intelligens
Etter flere år med utarbeidelse og forhandlinger ble rammekonvensjonen vedtatt av Europarådet 17. mai 2024.
Den ble offisielt åpnet for undertegning 5. september 2024 på justisministerkonferansen i Vilnius, der EU og Storbritannia var blant de første til å undertegne.
Storbritannias underskriver, Lord Chancellor Shabana Mahmood, uttalte:
«Kunstig intelligens har kapasitet til å forbedre responsen og effektiviteten til offentlige tjenester radikalt og sette turbo på den økonomiske veksten.»
Dette positive synet gjenspeiles i selve traktaten, som anerkjenner AIs evne til å fremme blant annet «individuell og samfunnsmessig velferd, bærekraftig utvikling, likestilling mellom kjønnene og myndiggjøring av alle kvinner og jenter».
Men alt er ikke bare solskinn og regnbuer.
Traktaten fremhever også hvordan kunstig intelligens kan undergrave menneskelig verdighet og autonomi, forsterke diskriminering og ulikhet og brukes til undertrykkende formål.
Lordkansleren anerkjente teknologiens mørke potensial og advarte:
“Vi må ikke la kunstig intelligens forme oss – vi må forme kunstig intelligens. Denne konvensjonen er et viktig skritt i retning av å sikre at disse nye teknologiene kan utnyttes uten å undergrave våre eldste verdier, som menneskerettighetene og rettsstatsprinsippet.”
Traktaten følger i fotsporene til Bletchley-erklæringen, som også ble hyllet som en banebrytende internasjonal innsats for å bekjempe de potensielle risikoene ved kunstig intelligens.
Rammekonvensjonen er imidlertid ikke en uforpliktende forpliktelse; når den er ratifisert, vil det være obligatorisk å slutte seg til den. Og hva er det egentlig de underskrivende landene forplikter seg til?
Viktige prinsipper
Tre viktige garantier ligger til grunn for rammekonvensjonen:
- Beskyttelse av menneskerettighetene: Sikre at personopplysninger håndteres på en ansvarlig måte, at personvernet ivaretas, og at AI-systemer ikke diskriminerer noen.
- Beskyttelse av demokratiet: Kravet om at landene må iverksette tiltak for å forhindre at kunstig intelligens undergraver offentlige institusjoner og demokratiske prosesser.
- Beskyttelse av rettsstatsprinsipper: Landene som har undertegnet avtalen, er forpliktet til å regulere AI-relaterte risikoer, beskytte innbyggerne mot potensiell skade og sørge for trygg bruk av AI.
Avgjørende er at traktaten forsøker å finne en balanse mellom å fremme innovasjon og å redusere uansvarlig bruk.
Som statssekretær for vitenskap, innovasjon og teknologi, Peter Kyle, sa, kan AIs fulle transformasjonspotensial bare nås hvis «folk har tro på og tillit til innovasjonene som vil føre til denne endringen».
Balanse mellom innovasjon og ansvarlighet: Ekspertenes synspunkter
Gary Marcus: Tar til orde for etiske standarder og åpenhet innen AI
I juli 2024 snakket den anerkjente kognitive forskeren Gary Marcus åpenhjertig på AI for Good Innovate for Impact-arrangementet i Shanghai om behovet for sterke etiske standarder og et robust regelverk for utviklingen av AI.
Etter å ha advart om at teknologigigantenes prioriteringer ikke alltid er i tråd med menneskehetens interesser, uttalte Marcus: «Vi bør ikke la de store teknologiselskapene bestemme alt for menneskeheten.»
Fullstendig åpenhet var kjernen i Marcus’ appell:
«Vi trenger full redegjørelse for hvilke data som brukes til å trene opp modeller, full redegjørelse for alle AI-relaterte hendelser som påvirker skjevheter, nettkriminalitet, valgpåvirkning, markedsmanipulasjon og så videre.»
Selv om traktater som rammekonvensjonen forventes å avhjelpe slike problemer, erkjenner flere bransjefolk og jurister at de utgjør en potensiell trussel mot innovasjon.
Kate Deniston & Louise Lanzkron: Bekymringer over ulike tolkninger av regelverket
Kate Deniston og Louise Lanzkron fra det internasjonale advokatfirmaet Bird & Bird mener at traktatens brede og fleksible prinsipper kan føre til ulike tolkninger og anvendelser i ulike land.
Det virker sannsynlig at inkonsekvente reguleringsstandarder lett kan føre til ujevne konkurransevilkår, noe som vil hindre innovasjon i enkelte signatarstater.
Mark Zuckerberg og Daniel Ek: Advarer mot forebyggende regulering
I en artikkel nylig delte Mark Zuckerberg, grunnlegger og administrerende direktør i Meta, og Daniel Ek, grunnlegger og administrerende direktør i Spotify, sine synspunkter på det de oppfatter som Europas ønske om å begrense innovasjon gjennom regulering:
“Det er nødvendig å regulere mot kjente skader, men forebyggende regulering av teoretiske skader for nye teknologier som AI med åpen kildekode vil kvele innovasjonen. Europas risikoaverse, komplekse regulering kan hindre oss i å kapitalisere på de store satsingene som kan gi store gevinster.”
Dr. Fei-Fei Li: Kritikk av SB-1047s innvirkning på AI-innovasjon
Senatslovforslaget SB-1047 fra California, også kjent som «Safe and Secure Innovation for Frontier Artificial Intelligence Models Act», har fått lignende motbør på grunn av sin antatt skadelige effekt på innovasjon.
Dr. Fei-Fei Li, allment anerkjent som «AIs gudmor», sa:
“AI-politikken må oppmuntre til innovasjon, sette passende begrensninger og redusere konsekvensene av disse begrensningene. En politikk som ikke gjør det, vil i beste fall ikke nå sine mål, og i verste fall føre til alvorlige, om enn utilsiktede, konsekvenser.”
Li mener at SB-1047 «vil skade vårt spirende AI-økosystem» og «vil straffe utviklere på urimelig vis og kvele innovasjon».
Andrew Ng: Pushback på vage rapporteringskrav i SB-1047
På samme måte har datavitenskapsmann og teknologigründer Andrew Ng konsekvent kritisert SB-1047.
I en tweet nylig protesterte han mot lovforslagets vage og tvetydige rapporterings- og sertifiseringskrav. Etter å ha beskrevet hvor latterlig det er å forvente at utviklere skal forutse den potensielle skaden som deres AI kan forårsake, når ledende forskere sliter med å fastslå fremtidige konsekvenser, konkluderer NG med at:
“Dette skaper en skremmende situasjon for utviklere. Å begå mened kan føre til bøter og til og med fengselsstraff. Noen utviklere vil måtte ansette dyre advokater eller konsulenter for å få råd om hvordan de skal overholde disse kravene.”
Mindre selskaper: Sliter med komplekse regelverk
Selv om Marcus’ observasjoner om teknologigigantenes ansvarlighet er betimelige og bør vurderes nøye, er det kanskje ikke de store teknologibedriftene som vil rammes hardest av de nyeste AI-reglene.
Komplekse juridiske rammer, overregulering og strenge og ofte forvirrende standarder kan helt klart kvele innovasjonen – spesielt hvis du er et mindre selskap med færre ressurser – og gjøre den enkle etterlevelsen av regelverket urettferdig kompleks.
Konklusjon
Til tross for de gode intensjonene bak regelverket, ser kritikere av dagens tiltak på komplekse rammeverk og generell overregulering som potensielle fiender av innovasjon.
Men i lys av den raske utviklingen er rammekonvensjonen utvilsomt et viktig skritt i retning av en levedyktig verdensomspennende regulering.
Fokuset på å beskytte menneskerettighetene, demokratiet og rettsstatsprinsippene er beundringsverdig, men det vil alltid være en vanskelig oppgave å balansere innovasjon og regulering.
Ofte stilte spørsmål
Hva er Europarådets konvensjon om kunstig intelligens?
Hva er status for EUs AI Act i dag?
Hva er EUs politikk for kunstig intelligens?
Hva er EUs AI-lov fra mai 2024?
Referanser
- Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (Rm.coe)
- The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023 – GOV.UK (Gov)
- Bill Text – SB-1047 Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (Leginfo.legislature.ca)
- EU Artificial Intelligence Act | Up-to-date developments and analyses of the EU AI Act (Artificialintelligenceact)
- UK signs first international treaty addressing risks of artificial intelligence – GOV.UK (Gov)
- AI Safety Summit| AISS 2023 (Aisafetysummit.gov)
- AI for Good Innovate for Impact – AI for Good (Aiforgood.itu)
- How we can ensure that AI works for us (Youtube)
- UK signs first legally-binding international treaty governing the safe use of AI: Our analysis – Bird & Bird (Twobirds)
- Mark Zuckerberg and Daniel Ek on Why Europe Should Embrace Open-Source AI | Meta (About.fb)
- ‘The Godmother of AI’ says California’s well-intended AI bill will harm the U.S. ecosystem | Fortune (Fortune)
- Andrew Ng on X (X)