Deepfake

Avoin toiminta

Deepfake on uusi ilmiö, joka herättää sekä ihastusta että vihastusta. Se viittaa tekoälyn ja muiden modernien teknologioiden avulla luotuihin videoihin ja esityksiin, joissa henkilöt – kuten julkkikset ja poliitikot – näyttävät sanovan tai tekemään asioita, joita he eivät todellisuudessa ole tehneet.

Tämän tekniikan kehittyminen ja yleistyminen on luonut uudenlaisen haasteen tietoturvalle ja tiedon luotettavuudelle. Pahimmassa tapauksessa sen avulla voidaan luoda epäjärjestystä yhteiskuntaan sekä tehdä erilaisia petoksia.

Juuri siksi deepfakeen liittyvää keskustelua kannattaa seurata, jotta tietää tarkemmin, minkälaisia videoita rikolliset ja muut haitalliset toimijat tekevät.

Mikä on deepfake?

Deepfake on termi sellaisille videoille ja esityksille, joita on muokattu tai luotu tekoälyn ja muiden vastaavavien teknologioiden avulla tuottamaan väärennettyjä tuotoksia. Yksi parhaista deepfake-esimerkeistä on kuvankäsittelyn käyttö YouTube videoiden tuottamisessa, joissa julkkikset, poliitikot tai muut sanovat tai tekevät asioita, joita he eivät ole koskaan todellisuudessa sanoneet tai tehneet.

Ilmiö on alkanut nopeasti yleistymään sen jälkeen, kun ChatGPT:n kilpailijat alkoivat yleistymään vuoden 2022 jälkeen. Nykyään deepfake-videoita ja kuvia voi nähdä lähes missä tahansa internetissä.

Monet asiantuntijat ovat tästä huolissaan, sillä niiden avulla disinformaation levittäminen on helpompaa. Kun videoita voidaan tehdä siten, ettei lopputulosta voi erottaa oikeasta videosta, sitä voidaan käyttää vaikkapa propaganda tarkoituksessa.

Mitä tarkoittaa deepfake?

“Deepfake” on termi, joka muodostuu sanoista “deep learning” (syväoppiminen) ja “fake” (väärennös). Se viittaa tekniikkaan, jossa syväoppimismalleja, erityisesti generaattoreita, käytetään luomaan väärennettyä sisältöä, kuten valokuvia, videoita tai ääntä, niin aidon näköisesti tai kuuloisesti, että se voi olla vaikea erottaa alkuperäisestä sisällöstä.

Deepfake-tekniikan etuna on sen kyky tuottaa erittäin realistista sisältöä, mutta samalla se herättää eettisiä kysymyksiä ja huolenaiheita väärinkäytön mahdollisuudesta. Se voi esimerkiksi vaikuttaa ihmisten maineeseen, levittää väärää tietoa tai häiritä julkista keskustelua.

Deepfake tarkemmassa tarkastelussa

YouTubessa on nähtävillä video, jossa Jordan Peele esittelee suhteellisen laajasti saatavilla olevia teknologioita väärien videoiden luomiseen. Yleinen ajatus on, että väärien videoiden luominen on nykyään hyvin helppoa, ja tämä voisi lyhyellä aikavälillä muodostua kansalliseksi turvallisuusongelmaksi tai johtaa erilaisiin petoksiin muihin ongelmiin.

Katso video Jordan Peelen luomasta Barack Obama deepfakesta:

Tämän huomioon ottaen hallitukset ja eri tahot pohtivat, miten lähestyä tekoälyä eettisestä näkökulmasta rajoittaakseen potentiaalisia vahinkoja, joita deepfake ja vastaavat teknologiat voivat aiheuttaa.

Aika selvää on kuitenkin se, etteivät tekoälyyn pohjautuvat työkalut tule mihinkään katoamaan vaan päinvastoin. Jo aivan lähitulevaisuudessa on odotettavissa, että markkinoilla tulee yhä parempia ja helpompia videoiden generointiin tarkoitettuja sovelluksia.

Siksi tavallisten ihmisten kannattaakin seurata tilannetta ja olla hereillä, kun lukee esimerkiksi uutisia netistä. Koska teknologia kehittyy jatkuvasti, myös rikolliset tulevat kehittämään yhä parempia tapoja tehdä petoksia.

Miten Deepfake toimii?

Deepfake on tekniikka, joka käyttää syväoppimista (deep learning) tuottamaan valheellisia tai harhaanjohtavia mediasisältöjä, erityisesti videokuvaa tai ääntä.

Näin deepfake video toimii:

  • Käyttäjä syöttää materiaalin
    Deepfake-algoritmi tarvitsee suuren määrän koulutusaineistoa, joka koostuu yhden tai useamman henkilön kasvoista tai äänistä. Tätä aineistoa käytetään opettamaan mallia tunnistamaan erilaisia kasvonilmeitä, eleitä tai äänenpiirteitä.
  • Käyttäjä valitsee syväoppimismallin
    Yleensä käytetään syväoppimismallia, kuten konvoluutioverkkoa (Convolutional Neural Network, CNN) kasvojen tunnistamiseen ja generatiivista mallia (esim. Generative Adversarial Network, GAN) uuden sisällön luomiseen. GAN koostuu kahdesta osasta: generaattori, joka luo deepfaken, ja diskriminaattori, joka yrittää erottaa aitoja kuvia vääristä.
  • Algoritmia koulutetaan
    Algoritmi koulutetaan tunnistamaan ja matkimaan alkuperäisen henkilön ilmeitä, eleitä tai äänenpiirteitä. Koulutusprosessiin käytetään suurta määrää tietoja ja se voi kestää pitkään riippuen käytetystä mallista ja tietomäärästä.
  • Deepfaken generointi
    Kun malli on koulutettu, se pystyy luomaan uutta sisältöä perustuen opittuihin piirteisiin. Esimerkiksi, jos malli on koulutettu tunnistamaan henkilön kasvonilmeitä, se voi sitten lisätä nämä piirteet toisen henkilön kasvoille videolla.
  • Hienosäätö ja parannukset
    Deepfakeja voidaan vielä hienosäätää lisäämällä lisää koulutusaineistoa tai muokkaamalla parametreja. Jatkuva kehitys pyrkii tekemään deepfakeista entistä uskottavampia ja vaikeammin tunnistettavia.

Deepfake-tekniikkaa voidaan käyttää monin eri tavoin, ja se voi aiheuttaa huolenaiheita liittyen valeuutisiin, henkilökohtaiseen yksityisyyteen ja mahdollisiin väärinkäytöksiin. Monet tahot ovat myös pyrkineet kehittämään vastatoimia, kuten deepfake-tunnistustekniikoita, tunnistamaan ja ehkäisemään tällaisen manipulaation leviämistä.

 

Margaret Rouse
Teknologia-asiantuntija

Margaret Rouse on palkittu teknologiatoimittaja ja opettaja, joka tunnetaan hänen kyvyistään selittää vaikeitakin teknologisia konsepteja aiheesta vähemmän tietävälle finanssialan yleisölle. Viimeisen 20 vuoden ajan hänen selityksensä ovat ilmestyneet TechTargetin nettisivuille, minkä lisäksi häntä ovat siteeranneet asiantuntijana New York Times, Time Magazine, USA Today, ZDNet, PC Magazine ja Discovery Magazine. Margaretin mielestä mikään ei ole hauskempaa kuin opettaa IT-alan ja finanssialan ammattilaisille, kuinka toisen alan hyvin spesifillä kielellä puhutaan. Jos sinulla on ideoita selitettävistä termeistä tai parannuksista aikaisempiin selityksiin, lähetä sähköpostia Margaretille tai ota yhteyttä häneen LinkedInissä tai Twitterissä.