Europarådets AI-avtal: Möjligheter och fallgropar

Drivet av konkurrensen i branschen avtar inte behovet av snabbhet när det gäller innovation inom artificiell intelligens (AI), då Big Tech fortsätter att investera tungt i AI-program. Konsekvenserna av denna snabba utveckling är både positiva och negativa.

Ja, AI förändrar många viktiga samhällsinstitutioner, som sjukvården och utbildningen, men det blir också alltmer inblandat i kriminalitet. Deepfakes, desinformation och kränkningar av integriteten har nått en alarmerande utbredning, vilket bekräftar behovet av meningsfull reglering och lagstiftning.

Efter flera års utarbetande och förhandling antogs ramkonventionen av Europarådet den 17 maj 2024. Även om branschens experter i stort sett stöder reglering, har det funnits betydande motstånd mot vad många anser vara en felaktig bedömning av riskerna och fördelarna som kan hämma innovation.

I denna artikel undersöker vi vad experter säger om det nuvarande läget för AI-reglering.

Innehållsförteckning Innehållsförteckning

1. Viktiga insikter i AI-avtalet
2. Viktiga regleringsakter för AI idag
3. AI-konventionen: En viktig milstolpe i AI-styrning
   1. Viktiga principer
4. Balansera innovation och ansvar: Expertåsikter
   1. Gary Marcus: Förespråkare för etiska standarder och transparens inom AI
   2. Kate Deniston & Louise Lanzkron: Oro över varierande tolkningar av regleringar
   3. Mark Zuckerberg & Daniel Ek: Varning för förebyggande reglering
   4. Dr. Fei-Fei Li: Kritik mot SB-1047:s påverkan på AI-innovation
   5. Andrew Ng: Motstånd mot vaga rapporteringskrav i SB-1047
   6. Mindre företag: Kämpar med komplexa regelverk
5. Slutsatsen om Europarådets AI-avtal och dess påverkan
6. Vanliga frågor om AI-konventionen från Europarådet
7. Referenser

Visa fullständig lista

Innehållsförteckning

1. Viktiga insikter i AI-avtalet
2. Viktiga regleringsakter för AI idag
3. AI-konventionen: En viktig milstolpe i AI-styrning
   1. Viktiga principer
Visa fullständig lista
4. Balansera innovation och ansvar: Expertåsikter
   1. Gary Marcus: Förespråkare för etiska standarder och transparens inom AI
   2. Kate Deniston & Louise Lanzkron: Oro över varierande tolkningar av regleringar
   3. Mark Zuckerberg & Daniel Ek: Varning för förebyggande reglering
   4. Dr. Fei-Fei Li: Kritik mot SB-1047:s påverkan på AI-innovation
   5. Andrew Ng: Motstånd mot vaga rapporteringskrav i SB-1047
   6. Mindre företag: Kämpar med komplexa regelverk
5. Slutsatsen om Europarådets AI-avtal och dess påverkan
6. Vanliga frågor om AI-konventionen från Europarådet
7. Referenser

Viktiga regleringsakter för AI idag

AI-konventionen: En viktig milstolpe i AI-styrning

Efter flera års utarbetande och förhandling antogs ramkonventionen av Europarådet den 17 maj 2024.

Den blev officiellt öppen för undertecknande den 5 september 2024 vid konferensen för justitieministrar i Vilnius, där EU och Storbritannien var bland de första att skriva under.

Storbritanniens undertecknare, Lord Chancellor Shabana Mahmood, uttalade:

“Artificiell intelligens har potentialen att radikalt förbättra effektiviteten och responsen hos offentliga tjänster samt driva på den ekonomiska tillväxten.”

Denna positiva syn återspeglas i själva avtalet, som erkänner AI:s förmåga att främja bland annat “individuell och samhällelig välfärd, hållbar utveckling, jämställdhet samt stärkandet av alla kvinnor och flickor.”

Men det är inte bara solsken och regnbågar.

Avtalet belyser också hur AI kan underminera mänsklig värdighet och autonomi, förvärra diskriminering och ojämlikhet, samt användas för repressiva ändamål.

I erkännandet av teknikens mörka potential varnade Lord Chancellor:

“Vi får inte låta AI forma oss—vi måste forma AI. Denna konvention är ett viktigt steg för att säkerställa att dessa nya teknologier kan utnyttjas utan att urholka våra äldsta värderingar, som mänskliga rättigheter och rättsstatsprincipen.”

Avtalet följer i fotspåren av Bletchleydeklarationen, som också hyllades som ett banbrytande internationellt initiativ för att bekämpa AI:s potentiella risker.

Ramkonventionen är dock inte ett icke-bindande åtagande; när den väl ratificeras blir efterlevnad obligatorisk. Så vad exakt åtar sig de undertecknande länderna?

Viktiga principer

Tre centrala skyddsåtgärder utgör grunden för ramkonventionen:

Viktigt är att avtalet försöker balansera främjandet av innovation och begränsningen av oansvarig användning.

Som statssekreteraren för vetenskap, innovation och teknik Peter Kyle sa, kan AI:s fulla transformativa potential endast uppnås om “människor har förtroende för och tillit till de innovationer som kommer att driva den förändringen.”

Balansera innovation och ansvar: Expertåsikter

Gary Marcus: Förespråkare för etiska standarder och transparens inom AI

I juli 2024 talade den välkände kognitiva forskaren Gary Marcus öppet vid evenemanget AI for Good Innovate for Impact i Shanghai om behovet av starka etiska standarder och robusta regelverk inom AI-utvecklingen.

Marcus, som har varnat för att techjättarnas prioriteringar inte alltid stämmer överens med mänsklighetens intressen, uttalade: “Vi bör inte låta de stora teknikföretagen bestämma allt för mänskligheten.”

Full transparens var kärnan i Marcus’ uppmaning:

“Vi behöver en fullständig redovisning av vilken data som används för att träna modeller, och en fullständig redovisning av alla AI-relaterade incidenter som påverkar partiskhet, cyberbrott, valpåverkan, marknadsmanipulation och så vidare.”

Även om avtal som ramkonventionen förväntas lindra sådana problem, erkänner flera bransch- och juridiska experter de potentiella hoten mot innovation.

Kate Deniston & Louise Lanzkron: Oro över varierande tolkningar av regleringar

Kate Deniston och Louise Lanzkron från den internationella advokatbyrån Bird & Bird föreslår att avtalets breda och flexibla principer kan leda till olika tolkningar och tillämpningar mellan olika länder.

Mark Zuckerberg & Daniel Ek: Varning för förebyggande reglering

I en nyligen publicerad artikel delade Mark Zuckerberg, Meta-grundare och VD, och Daniel Ek, Spotify-grundare och VD, sina åsikter om vad de uppfattar som Europas vilja att begränsa innovation genom reglering:

“Att reglera kända skador är nödvändigt, men förebyggande reglering av teoretiska skador för framväxande teknologier som öppen källkod AI kommer att kväva innovation. Europas riskaverta och komplexa regleringar kan hindra kontinenten från att dra nytta av de stora satsningar som kan leda till stora belöningar.”

Dr. Fei-Fei Li: Kritik mot SB-1047:s påverkan på AI-innovation

Kaliforniens senatsproposition SB-1047, även känd som “Safe and Secure Innovation for Frontier Artificial Intelligence Models Act”, har mött liknande motstånd för dess upplevda negativa effekt på innovation.

Dr. Fei-Fei Li, allmänt erkänd som “AI:s gudmor”, uttalade:

“AI-policy måste uppmuntra innovation, sätta lämpliga begränsningar och mildra konsekvenserna av dessa begränsningar. Policy som inte gör det kommer i bästa fall att misslyckas med att nå sina mål, och i värsta fall leda till allvarliga, om än oavsiktliga, konsekvenser.”

Li anser att SB-1047 “kommer att skada vårt spirande AI-ekosystem” och “orättvist straffa utvecklare och kväva innovation.”

Andrew Ng: Motstånd mot vaga rapporteringskrav i SB-1047

På liknande sätt har datorforskaren och teknikentreprenören Andrew Ng konsekvent kritiserat SB-1047.

I ett nyligt tweet protesterade Andrew Ng mot lagförslagets vaga och tvetydiga rapporterings- och certifieringskrav. Efter att ha beskrivit hur orimligt det är att förvänta sig att utvecklare ska kunna förutse den potentiella skada deras AI kan orsaka, när ledande forskare själva kämpar med att fastställa framtida effekter, konstaterar Ng att:

“Detta skapar en skrämmande situation för utvecklare. Att begå mened kan leda till böter och till och med fängelsestraff. Vissa utvecklare kommer att behöva anlita dyra advokater eller konsulter för att få råd om hur man följer dessa krav.”

Mindre företag: Kämpar med komplexa regelverk

Även om Marcus’ observationer om techjättarnas ansvar är relevanta och bör övervägas noga, är det kanske inte de stora teknikföretagen som de senaste AI-regleringarna kommer att drabba hårdast.

Komplexa juridiska ramar, överreglering och strikta och ofta förvirrande standarder kan definitivt hämma innovation—särskilt om du är ett mindre företag med färre resurser—vilket gör den enkla handlingen att följa reglerna orättvist komplicerad.

Slutsatsen om Europarådets AI-avtal och dess påverkan

Trots de goda intentionerna bakom regelverk ser kritiker av nuvarande åtgärder de komplexa ramarna och överregleringen som potentiella fiender till innovation.

I takt med den snabba utvecklingen markerar dock ramkonventionen ett viktigt steg mot en genomförbar global reglering.

Dess fokus på att skydda mänskliga rättigheter, demokrati och rättsstaten är beundransvärt, men att balansera innovation och reglering kommer alltid att vara en känslig uppgift.

Vanliga frågor om AI-konventionen från Europarådet