När du köper via affiliate-länkar på vår webbplats kan vi få en provision utan extra kostnad för dig. Läs mer om 
En ny rapport har upptäckt över 1 000 olika deepfake-videor om hälsa som spridits online på bara tre månader. Videorna, som framställs som legitima annonser på Metas sociala medieplattformar, utger sig för att vara kändisar, kända läkare, Tv-programledare och vårdpersonal.
Cyberkriminella som använder denna taktik riktar in sig på Europa, Nordamerika, Mellanöstern, Asien och Australien. De utnyttjar förtroendet hos patienter som lider av kroniska och till och med obotliga sjukdomar som cancer, genom att erbjuda dem “mirakelbotemedel” samtidigt som de försöker stjäla deras data eller tömma deras bankkonton.
Tack vare generativ artificiell intelligens (AI) är det enklare än någonsin att skapa falska rekommendationer och sprida dem i stor skala, vilket lurar människor att öppna sina plånböcker genom en av de grymmaste typerna av bedrägerier.
Viktiga slutsatser om dessa hälsorelaterade deepfake-videor
- Över 1 000 deepfake-videor om hälsa har identifierats spridas online inom loppet av tre månader.
- Dessa videor utger sig för att vara kändisar och vårdpersonal för att marknadsföra falska hälsokurer.
- Cyberkriminella riktar in sig på regioner som Europa, Nordamerika, Mellanöstern, Asien och Australien.
- Bedragare använder AI för att skapa övertygande falska rekommendationer för att stjäla data och pengar från offer – och kan snabbt och enkelt skapa videor på olika språk.
- Hälsorelaterade bedrägliga annonser på Meta-plattformar ökar, där medicinska kosttillskott marknadsförs genom kapade sociala mediekonton.
- Visa fullständig lista
AI-bedrägerier inom hälsa sprids över nätet
Det har skett en ökning av hälsorelaterade bedrägliga annonser på Facebook, Messenger och Instagram (alla Metas plattformar). Dessa annonser marknadsför 40 olika medicinska kosttillskott genom kapade sociala mediekonton med upp till 350 000 följare. Bedragare har skapat över 1 000 olika deepfake-videor på sociala medier.
Bland de som imiterats finns Brad Pitt, Cristiano Ronaldo, George Clooney, Dr. Ben Carson, Bill Maher, Denzel Washington, Dr. Heinz Lüscher och många andra inom vårdsektorn.
Forskare vid Bitdefender Labs analyserade skadliga kampanjer under en tre månaders period, från mars till maj 2024, och förklarade hur en relativt vanlig bluff tas till nästa nivå tack vare artificiell intelligens.
Techopedia talade med Alina Bizga, säkerhetsanalytiker på Bitdefender, för att få veta mer.
Hon sa så här:
“Dagens teknologiska framsteg, inklusive AI, gör det möjligt för bedragare att avsevärt öka räckvidden och framgångsgraden för sina bedrägliga aktiviteter, vilket gör det mycket svårare för individer och organisationer att försvara sig mot dem.
“Även om utredningen kring den potentiella hotgruppen eller grupperna bakom dessa bedrägerier fortfarande pågår, kan vi konstatera att bedragarna är mycket organiserade och använder sig av olika verktyg för att lura människor över hela världen.”
Bizga förklarade att dessa grupper skapar och hanterar de sidor som används för att sprida deras bedrägerier. De bedriver också forskning för att rikta in sig på regioner som kan vara berörda av specifika hälsoproblem med hjälp av välkända och uppskattade personligheter.
De registrerar sedan tiotusentals skadliga domäner och skräddarsyr innehållet på varje associerad webbsida.
Alla dessa förmågor visar på en organiserad infrastruktur, vissa färdigheter och kunskaper samt en solid resursnivå.
Bizga tillade:
“Brottslingarna skapar övertygande annonser som efterliknar legitima wellness- och hälsovarumärken, med hjälp av högkvalitativa grafik, professionella webbplatser och falska kundomdömen för att locka intet ont anande konsumenter.”
Bizga förklarade också att eftersom dessa bluffannonser ofta dyker upp på populära sociala medieplattformar som Facebook, där de riktar sig mot användare baserat på deras surfhistorik och intressen, vet gruppen hur man utnyttjar sociala mediealgoritmer för att specifikt rikta in sig på individer som har visat intresse för hälsoprodukter.
“Det är dock oklart om gruppen som levererar dessa skadliga annonser även ligger bakom kundtjänstcentren som hanterar beställningar av mirakelprodukter. Det är möjligt att gruppens ansvar enbart är att sprida annonserna för andra ‘tredje parter’.”
Två utklädda Tv-doktorer och ytterligare en utredning
Rapporten från Bitdefender är inte den enda som nyligen har undersökt hälsobedrägerier på sociala medier. Den 17 juli avslöjade BMJ, en ledande medicinsk forsknings- och nyhetsplattform, att deepfakes av kända Tv-läkare — Hillary Jones och Michael Mosely — används för att marknadsföra hälsobedrägerier online.
Dr. Martin J. Kraemer, säkerhetsmedvetenhetsförespråkare på KnowBe4, berättade för Techopedia att dessa imitationer sannolikt kommer att ske om och om igen.
“Popularitet och trovärdighet hos kända personer — oavsett om det är läkare, kockar, Wall Street-guruer eller andra — är en stor tillgång för bedragare. När dessa videor blir virala på TikTok eller Instagram genererar de tusentals visningar och potentiella klick på nätfiskewebbplatser.”
Dr. Kraemer betonade en mycket viktig aspekt genom att lyfta fram vikten av mediekompetens och utbildning inom hälsa. Han varnade för att medvetenhet är avgörande eftersom det snart kommer att bli allt svårare att skilja en deepfake från verkligheten.
“När det gäller vår hälsa bör vi alltid dubbelkolla med myndigheter som NHS och MHRA. Folkhälsokampanjer och offentliga cybersäkerhetskampanjer måste komplettera varandra för att skydda människor från drogrelaterade bedrägerier online.”
Så använder cyberkriminella AI i deepfake-bedrägerier inom hälsa
Bitdefenders rapport avslöjade hur hotaktörer använder AI på olika sätt i sina kampanjer. De använder AI för att anpassa bedrägerimeddelanden och annonser efter individers intressen och sårbarheter (hälsoproblem). De använder också GenAI för att skapa mycket övertygande meddelanden som är grammatiskt korrekta och relevanta i förhållande till de annonser de sprider via sociala medieplattformar.
När det gäller kvaliteten på deepfakes sa Bitdefender att även om de flesta videor visar tydliga tecken på manipulation, upptäckte deras forskare flera videor som var svåra att identifiera som deepfakes.
Dessutom gör AI det möjligt för hotaktörer att skapa annonser och innehåll på olika språk för att rikta sig mot olika grupper och regioner.
Språk som identifierades i denna undersökning inkluderar engelska (för USA, Storbritannien, Australien och andra), rumänska, italienska, spanska, portugisiska, tyska, franska, ryska, tjeckiska, slovakiska, slovenska, lettiska, litauiska, ungerska, bulgariska, polska, grekiska, kroatiska och andra.
Sammanlagt har bedragare genererat tusentals sidor som marknadsför bedrägerier med medicinska kosttillskott och tiotusentals skadliga annonser på sociala medier.
Vi frågade Bizga, säkerhetsanalytiker på Bitdefender, vilka befolkningsgrupper och hälsotillstånd som är mest måltavlor.
“Annonserna riktar sig till olika grupper, där vissa specifikt siktar in sig på den äldre befolkningen. Bland de mest populära hälsotillstånden har vi sett ett stort intresse för kosttillskott som sägs bota diabetes, synproblem, ledvärk, hjärtsjukdomar, Alzheimers och tinnitus.”
Bizga tillade att förutom sociala medier som ägs av Meta har de också identifierat skadliga annonser som levereras via Google Ads på olika andra webbplatser. “Dessa annonser liknar de som syns på Metas plattformar,” sade Bizga.
Målet med dessa hälsobedrägerier är inte bara att sälja ineffektiva ‘mirakel’-kurer, utan även att ibland stjäla offrens personliga och finansiella data. Bizga förklarade stegen i dessa attacker.
“När konsumenterna är övertygade, leds de till falska e-handelssajter för att köpa kosttillskotten. Tyvärr är produkterna som säljs oftast ineffektiva, osäkra eller obefintliga, vilket leder till ekonomisk förlust och potentiella hälsorisker för konsumenterna.”
Bizga förklarade att konsumenter som faller offer för dessa bedragare inte bara förlorar pengar på dessa falska produkter, utan också riskerar att få sina finansiella och personliga uppgifter stulna i processen.
AI-deepfakes utnyttjar internationella rättsväsendets och jurisdiktionsluckor
Gäng eller grupper som driver illegala bedrägerier via callcenter opererar ofta över gränserna, vilket lämnar myndigheter och offer i USA, Europa och andra regioner förvirrade över hur de ska agera.
Bizga från Bitdefender sade att för att hantera de komplexa och juridiska utmaningarna bakom falska kosttillskott och hälsoprodukter krävs ett utökat samarbete mellan hälsomyndigheter och brottsbekämpande organ, både nationellt och internationellt.
“För att effektivt bekämpa dessa bedrägerier krävs det att man skapar ett globalt nätverk som är strikt dedikerat till att dela information om kända kosttillskottsbedrägerier, bedrägliga enheter och misstänkta webbplatser.”
Bizga tillade att det finns ett stort behov av allmänna informationskampanjer för att utbilda konsumenter om riskerna med att köpa eller konsumera sådana produkter, samt att införa strikta regler för marknadsföring och försäljning av dessa kosttillskott, med regelbunden övervakning för att avskräcka från sådana bedrägliga aktiviteter.
Regeringar pressar också sociala medieföretag att bekämpa deepfake-bedrägerier och andra typer av bedrägerier på deras plattformar.
Ben Clayton, VD för Media Medic, ett professionellt företag inom säkerhet för hälso- och sjukvårdsmedia, berättade för Techopedia att dessa kampanjer är mer än bara vilseledande annonser och kan orsaka verklig skada.
“Av vad jag har förstått är dessa grupper otroligt välorganiserade och tekniskt kunniga. De har infrastrukturen och resurserna för att genomföra sofistikerade bedrägerier. Det handlar inte bara om slumpmässiga hackare i en källare. Detta är koordinerade insatser med seriös teknisk kunskap bakom sig.”
Slutord deepfake-bedrägerier rörande din hälsa
AI-drivna deepfakes håller snabbt på att bli ett kraftfullt vapen för cyberkriminella, med hälsobedrägerier som ett primärt mål. Genom att imitera kändisar, läkare och andra pålitliga personer skapar dessa bedragare mycket övertygande annonser för falska mirakelbotemedel.
I takt med att AI-teknologin fortsätter att utvecklas ökar även dessa bedrägeriers sofistikering, vilket gör det allt svårare för användare att skilja mellan verklighet och fiktion. För att skydda sig måste individer vara extremt försiktiga när de stöter på hälsopåståenden online, verifiera information från pålitliga källor och vara på sin vakt mot oönskade erbjudanden eller påtryckningstaktiker.
