Teollisuuden kilpailukykyä ajatellen tarve nopeille innovaatioille ei ole hiipumassa mihinkään. Suuret teknologiayritykset jatkavat merkittäviä investointejaan tekoälyyn pohjautuviin sovelluksiin, mutta tämän nopean kehityksen vaikutukset ovat kaksijakoisia. Framework Convention -direktiivi on Euroopan unionin asettama sääntelykehys, jolla tekoälyn haitallisia vaikutuksia pyritään sääntelemään.
Tekoäly tulee mullistamaan monia keskeisiä yhteiskunnallisia instituutioita, kuten terveydenhuollon ja koulutuksen.
Samalle se kietoutuu myös yhä enemmän rikollisuuteen: deepfake-videot, misinformaatio ja yksityisyyden loukkaukset ovat yleistyneet huolestuttavassa määrin. Nämä ilmiöt vahvistavat tarvetta kehittää tekoälyn sääntelyä ja lainsäädäntöä.
Useiden vuosien suunnittelujen ja neuvottelujen jälkeen Framework Convention -tekoälysäädös hyväksyttiin Euroopan neuvostossa 17. toukokuuta 2024. Vaikka alan ammattilaiset tukevatkin laajalti sääntelyä, ovat monet vastustaneet sitä. Vastustajat pitävät sääntelyä haitallisena erityisesti uusien innovaatioiden kehittämisen osalta.
Tässä artikkelissa tarkastelemme, kuinka asiantuntijat näkevät tekoälyn nykyisen sääntelytilanteen.
-
- Gary Marcus: Tekoälyn eettisten standardien ja läpinäkyvyyden puolestapuhuja
- Kate Deniston & Louise Lanzkron: Huoli sääntelyä koskevista tulkintaeroista
- Mark Zuckerberg & Daniel Ek: Varautumista ennakoivaa sääntelyä vastaan
- Dr. Fei-Fei Li: SB-1047 vaikutus tekoälyn innovaatioihin
- Andrew Ng: Vastutan SB-1047 epämääräisiä raportointivaatimuksia
- Katso koko lista
-
- Gary Marcus: Tekoälyn eettisten standardien ja läpinäkyvyyden puolestapuhuja
- Kate Deniston & Louise Lanzkron: Huoli sääntelyä koskevista tulkintaeroista
- Mark Zuckerberg & Daniel Ek: Varautumista ennakoivaa sääntelyä vastaan
- Dr. Fei-Fei Li: SB-1047 vaikutus tekoälyn innovaatioihin
- Andrew Ng: Vastutan SB-1047 epämääräisiä raportointivaatimuksia
Tärkeimmät tekoälyn sääntelytoimet tällä hetkellä
- Bletchleyn julistus tekoälyn turvallisuudesta (marraskuu 2023)
- Kalifornian senaatin lakiesitys SB-1047 (helmikuu 2024)
- EU tekoälyasetus (elokuu 2024)
- Euroopan neuvoston ensimmäinen, oikeudellisesti sitova kansainvälinen tekoälyn turvallisuussopimus on Framework Convention -direktiivi (toukokuu 2024).
Tekoälysopimus: merkittävä virstanpylväs tekoälyn sääntelyyn
Framework Convention -direktiivi hyväksyttiin Euroopan neuvostossa 17. toukokuuta 2024.
Sopimus allekirjoitettiin virallisesti 5. syyskuuta vuonna 2024 Vilnassa järjestetyssä oikeusministereiden konferenssissa. EU ja Iso-Britannia olivat ensimmäisten joukossa allekirjoittamassa sopimusta.
Ison-Britannian allekirjoittaja Lord Chancellor Shabana Mahmood totesi:
”Tekoälyllä on kyky parantaa radikaalisti julkisten palvelujen aktiivisuutta ja tehokkuutta sekä vauhdittaa talouskasvua.”
Tämä positiivinen näkemys heijastuu itse sopimukseen, joka tunnustaa tekoälyn kykenevän edistämään muun muassa “yksilön ja yhteiskunnan hyvinvointia, kestävää kehitystä, sukupuolten välistä tasa-arvoa ja naisten ja tyttöjen tasa-arvoa.”
Kaikella on kuitenkin varjopuolensa.
Sopimus nimittäin korostaa myös sitä tosiasiaa, että tekoäly voi heikentää ihmisarvoa ja autonomiaa, lisätä syrjintää ja eriarvoisuutta sekä olla käytössä sensuurin tai sorron työkaluna.
Tekoälyteknologian mahdolliset väärinkäytökset tunnistaen Lord Chancellor varoitti:
”Meidän ei pidä antaa tekoälyn muokata meitä – meidän on muokattava tekoälyä. Tämä sopimus on merkittävä askel kohti sitä, että nämä uudet teknologiat voidaan valjastaa käyttöön ilman, että ne murentavat vanhimpia ja tärkeimpiä arvojamme, kuten ihmisoikeuksia ja oikeusvaltioperiaatetta.”
Sopimus seuraa Bletchleyn julistuksen jalanjälkiä. Julistusta pidetään merkittävänä kansainvälisenä ponnistuksena vastustaa tekoälyn sisältämiä riskejä.
Framework Convention -direktiivi on sitova sitoumus. Sen ratifioinnin jälkeen sopimuksen noudattaminen on pakollista. Mutta mihin allekirjoittajamaat tarkkaan ottaen sitoutuvat?
Framework Convention -direktiivin keskeiset periaatteet
Kolme keskeistä turvamekanismia tukevat tätä direktiiviä:
- Ihmisoikeuksien suojaaminen: Varmistetaan, että henkilötietoja käsitellään vastuullisesti, ihmisten yksityisyys säilyy eikä tekoäly ei toimi syrjivästi.
- Demokratian suojaaminen: Maat ovat velvollisia ottamaan käyttöön toimenpiteitä, joiden tarkoituksena on estää tekoälyn käyttö julkisten instituutioiden ja demokraattisten prosessien heikentämisessä.
- Oikeusvaltion suojaaminen: Allekirjoittajamaiden on säänneltävä tekoälyyn liittyviä riskejä, suojeltava kansalaisia mahdollisilta vahingoilta ja varmistettava tekoälyn turvallinen käyttö.
Sopimus pyrkii tasapainottamaan innovaatioiden edistämistä ja vähentämään tekoälyn vastuutonta käyttöä.
Tieteen, innovaation ja teknologian valtiosihteeri Peter Kylen sanoin: ”Tekoälyn muutosvoima voidaan saavuttaa vain, jos ihmiset luottavat niihin innovaatioihin, jotka tuovat tämän muutoksen mukanaan.”
Innovaatioiden ja vastuun tasapainottaminen: asiantuntijoiden näkemyksiä
Techopedia kävi läpi Framework Convention -direktiiviä useiden asiantuntijoiden kanssa. Tavoitteena oli pohtia, kuinka tekoälyyn pohjautuvia innovaatiota voidaan kehittää vastuullisesti.
Gary Marcus: Tekoälyn eettisten standardien ja läpinäkyvyyden puolestapuhuja
Heinäkuussa 2024 tunnettu kognitiotieteilijä Gary Marcus puhui avoimesti AI for Good Innovate for Impact -tapahtumassa Shanghaissa eettisten standardien ja vahvan sääntelyn tarpeesta tekoälyn kehittämisessä.
Marcus varoitti, että teknologiajättien prioriteetit eivät aina ole yhdenmukaisia ihmiskunnan etujen kanssa: ”Emme saa antaa suurten teknologiayritysten päättää kaikesta ihmiskunnan puolesta.”
Läpinäkyvyys oli Marcusin vetoomuksen ydin:
”Tarvitsemme selvityksen siitä, mitä dataa käytetään mallien koulutukseen, sekä kaikista tekoälyyn liittyvistä tapauksista. Siitä, miten ne vaikuttavat esimerkiksi puolueellisuuteen, kyberrikollisuuteen, vaalien häirintään, markkinoiden manipulointiin ja niin edelleen.”
Vaikka Framework Convention -direktiivin kaltaiset sopimukset on tarkoitettu sääntelemään näitä ongelmia, esittävät monet teollisuuden ja oikeusalan asiantuntijat niiden aiheuttavan vaikeuksia uusille innovaatioille.
Kate Deniston & Louise Lanzkron: Huoli sääntelyä koskevista tulkintaeroista
Kansainvälisen asianajotoimisto Bird & Birdin Kate Deniston ja Louise Lanzkron huomauttavat, että sopimukseen kirjatut laajat ja joustavat periaatteet voivat johtaa erilaisiin tulkintoihin ja sovellutuksiin.
On todennäköistä, että epäjohdonmukainen sääntely voi johtaa helposti epäselviin tulkintoihin, mikä voi haitata innovaatioiden kehittämistä tietyissä valtioissa.
Mark Zuckerberg & Daniel Ek: Varautumista ennakoivaa sääntelyä vastaan
Äskettäisen julkaistussa artikkelissa Metan toimitusjohtaja Mark Zuckerberg ja Spotifyn toimitusjohtaja Daniel Ek ilmaisivat näkemyksensä asiasta, jota he pitävät Euroopan haluna rajoittaa innovaatioita sääntelyn kautta:
”Tunnettujen haittojen sääntely on tarpeen, mutta ennakoiva sääntely potentiaalisten vahinkojen osalta tukahduttaa innovointia. Tämä pätee erityisesti kehitteillä olevien teknologioiden, kuten avoimen lähdekoodin tekoälyn, kohdalla. Euroopan riskien välttämiseen keskittyvä monimutkainen sääntely voi estää sitä hyödyntämästä innovaatioita, jotka saattaisivat parhaimmillaan muodostaa suuria tuottoja.”
Dr. Fei-Fei Li: SB-1047 vaikutus tekoälyn innovaatioihin
Kalifornian senaatin lakiesitys SB-1047, joka tunnetaan myös nimellä ”Safe and Secure Innovation for Frontier Artificial Intelligence Models Act,” on saanut kohdakseen vastarintaa sen haitallisesta vaikutuksesta innovaatioihin.
Tekoälyn “kummitädiksi” laajalti tunnustettu Dr. Fei-Fei Li totesi:
”Tekoälypolitiikan on edistettävä innovaatioita, asetettava asianmukaiset rajoitukset ja lievennettävä kyseisten rajoitusten haitallisia vaikutuksia. Jos poliittiset päätökset eivät pysty toteuttamaan tätä, tulevat ne epäonnistumaan tavoitteissaan ja johtamaan pahimmillaan vakaviin seurauksiin.”
Li uskoo, että SB-1047 ”vahingoittaa tekoälyn kasvavaa ekosysteemiä, rankaisee kohtuuttomasti kehittäjiä ja tukahduttaa innovoinnin.”
Andrew Ng: Vastutan SB-1047 epämääräisiä raportointivaatimuksia
Samaan tapaan tietojenkäsittelytieteilijä ja teknologiayrittäjä Andrew Ng on kritisoinut SB-1047:ää.
Eräässä tweetissään hän vastusti lakiesityksen epämääräisiä ja monitulkintaisia raportointivaatimuksia. Hän kuvaili esimerkiksi sitä, kuinka naurettavaa on odottaa kehittäjien ennustavan, mitä vahinkoja heidän tekoälynsä saattaa aiheuttaa tulevaisuudessa.
Hänen mukaansa jopa tekoälyn johtavat tutkijat kamppailevat tulevien vaikutusten arvioinnissa:
”Tämä luo kehittäjille pelottavan tilanteen. Väärän raportin tekeminen voisi johtaa sakkoihin ja jopa vankeusrangaistukseen. Jotkut kehittäjät joutuvat palkkaamaan kalliita lakimiehiä tai konsultteja neuvomaan, miten noudattaa näitä vaatimuksia.”
Erityisesti pienemmät yritykset kamppailevat monimutkaisten sääntelykehyksien kanssa
Vaikka Marcusin havainnot teknologiayritysten vastuusta ovat ajankohtaisia ja ne on syytä ottaa vakavasti, iskevät viimeisimmät tekoälymääräykset eniten pienempiin yrityksiin.
Monimutkaiset oikeudelliset kehykset, ylisääntely ja tiukkojen sekä usein sekavien standardien asettaminen varmasti tukahduttavat innovointia. Tämä pätee todennäköisesti etenkin silloin, jos kyseessä on pieni teknologiayritys, jolla on vähemmän resursseja. Jo pelkkä sääntelyvaatimusten täyttäminen saattaa johtaa resurssien loppumiseen.
Framework Convention – yhteenveto
Vaikka sääntelyn takana on hyviä aikomuksia, pitävät monet monimutkaisia sääntelykehyksiä ja ylisääntelyä innovaatioiden vihollisina.
Nopean kehityksen edessä Framework Convention -direktiivi merkitsee kuitenkin maailmanlaajuisesti merkittävää askelta toteuttamiskelpoisen sääntelyn osalta.
Sääntelyn keskittyminen ihmisoikeuksien, demokratian ja oikeusvaltion suojaamiseen on ihailtavaa, mutta innovoinnin ja sääntelyn tasapainottaminen tulee olemaan haasteellista.
Framework Convention – UKK
Mikä on Euroopan neuvoston tekemä tekoälysopimus?
Mikä on EU:n tekoälyasetuksen nykytila?
Mikä on EU:n tekoälypolitiikka?
Lähteet
- Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (Rm.coe)
- The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 November 2023 – GOV.UK (Gov)
- Bill Text – SB-1047 Safe and Secure Innovation for Frontier Artificial Intelligence Models Act (Leginfo.legislature.ca)
- EU Artificial Intelligence Act | Up-to-date developments and analyses of the EU AI Act (Artificialintelligenceact)
- UK signs first international treaty addressing risks of artificial intelligence – GOV.UK (Gov)
- AI Safety Summit| AISS 2023 (Aisafetysummit.gov)
- AI for Good Innovate for Impact – AI for Good (Aiforgood.itu)
- How we can ensure that AI works for us (Youtube)
- UK signs first legally-binding international treaty governing the safe use of AI: Our analysis – Bird & Bird (Twobirds)
- Mark Zuckerberg and Daniel Ek on Why Europe Should Embrace Open-Source AI | Meta (About.fb)
- ‘The Godmother of AI’ says California’s well-intended AI bill will harm the U.S. ecosystem | Fortune (Fortune)
- Andrew Ng on X (X)