Deepfake

Lär dig vad som menas med deepfake och hur dessa skapas. Techopedia går igenom allt du behöver veta om deepfakes – från användningsfall och hur du upptäcker dem till etiska och juridiska konsekvenser vid användning.

Innehållsförteckning Innehållsförteckning

1. Vad är en deepfake?
   1. Techopedia förklarar innebörden av Deepfake
2. Hur skapas deepfakes?
3. Vad är "Deepfake-As-A-Service"?
4. Användningsfall av deepfakes
5. Vem är det som gör deepfakes?
6. Hur man upptäcker en deepfake
   1. Verktyg för detektering av deepfake
7. Deepfakes inverkan på samhället
8. Exempel på missbruk av deepfake
9. Etiska konsekvenser av deepfakes
10. Juridiska konsekvenser av deepfake-teknik
11. Slutsatsen om deepfakes
12. Vanliga frågor om deepfake
13. Referenser

Visa fullständig lista

Innehållsförteckning

1. Vad är en deepfake?
   1. Techopedia förklarar innebörden av Deepfake
2. Hur skapas deepfakes?
3. Vad är "Deepfake-As-A-Service"?
Visa fullständig lista
4. Användningsfall av deepfakes
5. Vem är det som gör deepfakes?
6. Hur man upptäcker en deepfake
   1. Verktyg för detektering av deepfake
7. Deepfakes inverkan på samhället
8. Exempel på missbruk av deepfake
9. Etiska konsekvenser av deepfakes
10. Juridiska konsekvenser av deepfake-teknik
11. Slutsatsen om deepfakes
12. Vanliga frågor om deepfake
13. Referenser

Vad är en deepfake?

En deepfake avser datorgenererade videor, ljudinspelningar och bilder som används för att porträttera personer som säger eller gör saker som de aldrig faktiskt gjorde eller sa. I huvudsak använder deepfake-teknik artificiell intelligens (AI) och maskininlärning (ML) för att generera syntetiskt digitalt innehåll som ser ut och låter som om det är autentiskt.

Även om deepfakes kan skapas för godartade ändamål, till exempel inom filmskapande eller satir, har de fått en negativ klang eftersom de mest omskrivna tillämpningarna av deepfake-teknik har varit bedrägerirelaterade. De har uppmärksammats för sin förmåga att vilseleda tittare att tro att falskt avbildade händelser eller uttalanden är verkliga.

Teknikens förmåga att missbrukas har gett upphov till etiska, juridiska och sociala frågor, särskilt när det gäller felaktig information, kränkningar av den personliga integriteten och manipulation av den allmänna opinionen.

Techopedia förklarar innebörden av Deepfake

Deepfake-definitionen är en sammanslagning av ”deep learning” och ”fake”. I det här sammanhanget är deep learning en typ av maskininlärning och fake är en synonym för fabricerad eller syntetisk data.

Det är viktigt att komma ihåg att även om alla deepfakes använder syntetisk data, är det inte allt syntetiskt digitalt innehåll som kvalificerar sig som deepfakes. Den avgörande skillnaden ligger i avsikten bakom skapandet av innehållet och dess potential för bedrägeri.

Hur skapas deepfakes?

Deepfake-modeller kan skapas med generativa adversariala nätverk (GAN), autoencoders eller variational autoencoders. När modellen är tillräckligt tränad kan den användas för att skapa deepfakes genom att mata in nya träningsdata eller uppmaningar.

Vad är “Deepfake-As-A-Service”?

För tio år sedan behövde den som ville skapa övertygande deepfake-innehåll ha en gedigen bakgrund inom matematik, datavetenskap och datorprogrammering.

Idag kan människor använda gratis eller billiga appar och molntjänster som kan skapa övertygande deepfakes från bara några få referensbilder eller videor. Tencent har till exempel en kommersiell deepfake-tjänst som kan skapa högupplösta, realistiska deepfake-människor med bara tre minuters live-action-video och 100 talade meningar som källmaterial.

Tyvärr har detta gjort det enklare än någonsin för hotaktörer att också skapa deepfakes. Under de senaste fem åren har det förekommit anmärkningsvärda fall där deepfakes har använts för att sprida felaktig information, begå ekonomiska bedrägerier, skapa icke-konsensuellt innehåll för vuxna och otillbörligt påverka politiska kampanjer.

Kvaliteten på deepfakes som skapats med billig programvara är dock inkonsekvent. Det är därför som deepfakes med märkbara brister eller inkonsekvenser ofta kallas cheapfakes eller shallow fakes (motsatsen till deepfakes).

Användningsfall av deepfakes

Deepfakes har använts i olika sammanhang, allt från godartade och underhållande till kontroversiella och illasinnade. Här är några anmärkningsvärda exempel (både bra och dåliga).

Vem är det som gör deepfakes?

En del av det inledande arbetet med deepfake-teknik utfördes i akademiska miljöer och inom forskning för att utforska möjligheterna att använda AI inom film. Praktiska tillämpningar av tidig deepfake-teknik inkluderade matchning av en skådespelares läpprörelser till ljud inspelat på ett annat språk, avåldring av skådespelare eller ersättning av en skådespelares ansikte med en annans i en specifik scen utan att behöva filma scenen igen.

Idag skapas ett betydande antal deepfakes av hobbyister och teknikentusiaster. Deepfake-teknikens tillgänglighet har ökat med den utbredda tillgången till användarvänlig deepfake-mjukvara och molntjänster, och människor med varierande nivåer av teknisk skicklighet kan skapa realistiska deepfakes.

Hur man upptäcker en deepfake

Även om det blir allt svårare att identifiera falska bilder, ljud och video i takt med att tekniken förbättras, finns det fortfarande vissa tecken och tekniker som du kan använda för att identifiera falska bilder.

Verktyg för detektering av deepfake

Idag finns det ett antal tekniska verktyg och tjänster som människor kan använda för att upptäcka inkonsekvenser och artefakter som införts under deepfake-skapandeprocessen.

• Sentinel: Enligt deras webbplats arbetar Sentinel med regeringar, media och försvarsorgan för att hjälpa till att skydda demokratier från desinformationskampanjer, syntetiska medier och informationsoperationer.
• Deepfake-detektor: Företagets AI Voice Detector kan hjälpa användare att upptäcka om ett ljud- eller videoklipp är en deepfake.
• Sensity: Sensitys egenutvecklade API (Application Programming Interface) kan identifiera AI-ändrade bilder 98,8% av tiden.
• Intel FakeCatcher: Enligt Intels webbplats analyserar FakeCatcher blodflödet i videopixlar för att bestämma en videos äkthet.
• Resemble AI: Resemble AI-tjänster inkluderar en banbrytande AI-röstgenerator och robust deepfake-ljuddetektering.

Det är viktigt att komma ihåg att medan verktyg och tjänster för deepfake-detektorer ständigt förbättras, går tekniken bakom deepfakes också framåt. Det är därför som deepfake-detektering ofta kategoriseras som ett katt-och-råtta-spel.

Deepfakes inverkan på samhället

Även om deepfakes kan fungera som kraftfulla verktyg för underhållning, utbildning och sociala kommentarer, har teknikens potential för missbruk i nätfiskebedrägerier, identitetsstöld och finansiella bedrägerier gjort den till ett betydande säkerhetsproblem.

Deepfake-teknik har förmågan att undergräva förtroendet för medier, underlätta kampanjer för felaktig information, underblåsa politisk polarisering och utgöra ett allvarligt hot mot individers rykte och känslomässiga välbefinnande.

I samhället väcker skapandet och spridningen av deepfakes frågor om samtycke och integritet, liksom frågor om teknikens potential att påverka mänskligheten på ett skadligt sätt.

Exempel på missbruk av deepfake

Här är några exempel på missbruk av deepfake-teknik i den verkliga världen:

• En finansanställd i Hongkong överförde mer än 25 miljoner dollar till bedragare efter att ha blivit ”deepfaked” genom ett videokonferenssamtal.
• I USA fick tusentals människor ett deepfake-robocall från president Joe Biden som uppmanade dem att inte rösta.
• Ett energiföretags VD lurades att överföra 220 000 € efter att ha blivit deepfaked att tro att han talade i telefon med sin chef.
• En deepfake-video av Japans premiärminister Kishida Fumio fick det att se ut som om premiärministern yttrade vulgära kommentarer.
• En video av Microstrategys verkställande ordförande Michael Saylor uppmanade tittarna att skicka honom Bitcoin med löftet att han kunde fördubbla deras kryptoinvestering.

Etiska konsekvenser av deepfakes

I takt med att deepfake-tekniken blir allt mer sofistikerad och tillgänglig väcker den frågor om hur man kan verifiera källinnehållets äkthet.

Andra frågor som rör den etiska användningen av deepfakes är bland annat

• Behöver vi nya lagar eller förordningar för att reglera användningen av deepfake-teknik?
• Kan vi använda AI-vattenstämplar för att på ett tillförlitligt sätt identifiera deepfake-innehåll?
• Vem ska hållas ansvarig om syntetiskt innehåll skadar någons rykte?
• Tar befintliga lagar och förordningar itu med utmaningarna i domstolar där video- och ljudbevis en gång ansågs vara tillförlitliga?
• Kan blockkedjeteknik användas för att autentisera legitimt innehåll och fastställa ursprunget för en digitaliserad tillgång, inklusive text, ljud och video?

Juridiska konsekvenser av deepfake-teknik

Deepfake-tekniken skapar utmaningar i domstolar där video- och ljudbevis tidigare ansågs vara tillförlitliga.

I många länder hanterar befintliga lagar och regler inte nyanserna i deepfake-tekniken på ett tillfredsställande sätt, och detta har lett till krav på nya regler och rättsliga ramar.

Flera länder och jurisdiktioner har börjat införa lagar och förordningar som är särskilt utformade för att hålla deepfake-skapare och distributörer ansvariga för skadliga effekter.

• I USA har minst tio delstater antagit lagar som kriminaliserar skapande och distribution av deepfake-pornografi utan samtycke och deepfake-videor som syftar till att störa val.
• Kina har strikta lagar som specifikt förbjuder produktion av deepfakes utan användarens samtycke och som kräver att innehåll som genereras med artificiell intelligens ska märkas tydligt.
• EU:s Artificial Intelligence Act innehåller bestämmelser som kräver att den som skapar eller sprider en deepfake ska avslöja innehållets artificiella ursprung och tillhandahålla information om hur innehållet skapades.

Slutsatsen om deepfakes

Deepfake-tekniken i sig är inte farlig. Den kan användas för att engagera elever, sänka produktionskostnaderna för film och effektivisera anpassningen av innehåll till målgrupper som talar olika språk.

Den lätthet med vilken hotaktörer använder tekniken för att skapa övertygande falska videor och videoklipp bidrar dock till att undergräva människors förtroende för digitala medier.

Vanliga frågor om deepfake