Når du kjøper via tilknyttede lenker på nettstedet vårt, kan vi motta en provisjon uten ekstra kostnad for deg. Les mer om 
En ny rapport har oppdaget mer enn 1000 forskjellige deepfake-helsevideoer som sprer seg på nettet i løpet av bare tre måneder. Videoene, som utgir seg for å være legitime annonser på Metas sosiale medieplattformer, utgir seg for å være kjendiser, kjente leger, TV-programledere og helsepersonell.
De nettkriminelle bruker denne taktikken i Europa, Nord-Amerika, Midtøsten, Asia og Australia, og utnytter tilliten til pasienter som lider av kroniske og til og med uhelbredelige sykdommer som kreft, ved å tilby dem “mirakelkurer” samtidig som de forsøker å stjele dataene deres eller tømme bankkontoene deres.
Takket være generativ kunstig intelligens er det enklere enn noensinne å lage falske anbefalinger og spre dem i massevis, og lure folk til å åpne lommebøkene sine gjennom en av de grusomste formene for svindel.
Nøkkelpunkter
- I løpet av tre måneder ble det oppdaget over 1 000 falske helsevideoer på nettet.
- Disse videoene utgir seg for å være kjendiser og helsepersonell for å promotere falske helsekurer.
- De nettkriminelle retter seg mot regioner som Europa, Nord-Amerika, Midtøsten, Asia og Australia.
- Svindlerne bruker kunstig intelligens til å lage overbevisende falske anbefalinger for å stjele data og penger fra ofrene – og de kan raskt og enkelt lage videoer på ulike språk.
- Helserelaterte falske annonser på metaplattformer øker, der det reklameres for medisinske kosttilskudd gjennom kompromitterte kontoer på sosiale medier.
- Se hele listen
Helse AI-svindel sprer seg over hele nettet
Det er en økning i helserelaterte falske annonser på Facebook, Messenger og Instagram (alle Metas plattformer). Disse annonsene markedsfører 40 medisinske kosttilskudd ved hjelp av kompromitterte kontoer på sosiale medier med opptil 350 000 følgere. Svindlerne laget over 1 000 forskjellige deepfake-videoer på tvers av sosiale medier.
Blant de imiterte personene finner vi Brad Pitt, Cristiano Ronaldo, George Clooney, Dr. Ben Carson, Bill Maher, Denzel Washington, Dr. Heinz Lüscher og mange andre helsepersonligheter.
Forskere fra Bitdefender Labs analyserte ondsinnede kampanjer over en tremånedersperiode fra mars til mai 2024, og forklarte hvordan en ganske vanlig svindel blir tatt til neste nivå takket være kunstig intelligens.
Hvem står bak Health Deepfake-kampanjene i sosiale medier?
Techopedia snakket med Alina Bizga, sikkerhetsanalytiker hos Bitdefender for å få innsidehistorien.
Hun sa:
“Dagens teknologiske fremskritt, inkludert kunstig intelligens, gjør det mulig for svindlere å øke rekkevidden og suksessraten for svindelaktivitetene sine betydelig, noe som gjør det mye vanskeligere for enkeltpersoner og organisasjoner å forsvare seg mot dem.
“Selv om etterforskningen av den eller de potensielle trusselgruppene som står bak disse svindelforsøkene fortsatt pågår, kan vi slå fast at svindlerne er svært organiserte og bruker ulike verktøy for å svindle enkeltpersoner over hele verden.”
Bizga forklarer at disse gruppene oppretter og administrerer sidene som brukes til å spre svindelen. De gjør også undersøkelser for å finne frem til regioner som kan være opptatt av spesifikke helseproblemer, ved hjelp av velkjente og verdsatte personas.
Deretter registrerer de titusenvis av ondsinnede domener og skreddersyr innholdet på hver enkelt nettside.
Alt dette vitner om en organisert infrastruktur, visse ferdigheter og kunnskaper, og et solid ressursnivå.
Bizga legger til:
“De kriminelle lager overbevisende annonser som etterligner legitime helse- og velværemerker, og bruker grafikk av høy kvalitet, nettsteder som ser profesjonelle ut og falske attester for å lokke intetanende forbrukere.”
Bizga forklarer også at fordi disse svindelannonsene ofte vises på populære sosiale medier som Facebook, og retter seg mot brukere basert på nettleserhistorikk og interesser, vet gruppen hvordan de kan utnytte algoritmer i sosiale medier til å målrette seg spesifikt mot personer som har vist interesse for helseprodukter.
“Det er imidlertid uklart om gruppen som leverer disse ondsinnede annonsene, også står bak kundesentrene som behandler bestillinger av mirakelprodukter. En mulighet er at gruppens ansvar kun er å spre annonsene for andre ‘tredjeparter’.”
To falske TV-leger og en annen etterforskning
Rapporten fra Bitdefender er ikke den eneste nylige etterforskningen av helsesvindel i sosiale medier. Den 17. juli avslørte BMJ, et ledende medisinsk forsknings- og nyhetsmedium, at etterligninger av kjente TV-leger – Hillary Jones og Michael Mosely– promoterte helsesvindel på nettet.
Dr. Martin J. Kraemer, sikkerhetsrådgiver hos KnowBe4, sa til Techopedia at slike etterligninger er nødt til å skje gang på gang.
“Autoriteten og troverdigheten til populære personligheter – enten det er leger, kokker, guruer eller andre – er en stor ressurs for svindlere. Når de går viralt på TikTok eller Instagram, vil disse videoene generere tusenvis av visninger og potensielle klikk på phishing-nettsteder.”
Dr. Kraemer tok opp et svært viktig poeng ved å understreke betydningen av mediekompetanse og helseutdanning. Kraemer advarte om at bevissthet er avgjørende, fordi det snart vil bli stadig vanskeligere å skille en deepfake fra en ekte vare.
“Når det gjelder helsen vår, bør vi alltid dobbeltsjekke med myndigheter som NHS og MHRA. Folkehelsekampanjer og offentlige cybersikkerhetskampanjer må utfylle hverandre for å beskytte folk mot legemiddelrelatert nettsvindel.”
Hvordan nettkriminelle bruker kunstig intelligens i falske helsesvindler
Bitdefender-rapporten avslørte hvordan trusselaktører bruker kunstig intelligens på ulike måter i kampanjene sine. De bruker kunstig intelligens til å skreddersy svindelmeldinger og annonser til enkeltpersoners interesser og sårbarheter (helseproblemer). De bruker også GenAI til å generere svært overbevisende meldinger som er grammatisk korrekte og i sammenheng med annonsene de pusher via sosiale medier,
Når det gjelder kvaliteten på deepfakes, sier Bitdefender at selv om de fleste videoene viser tydelige tegn på manipulering, fant forskerne deres flere videoer som var utfordrende å oppdage som deepfakes.
I tillegg gjør kunstig intelligens det mulig for trusselaktører å generere annonser og innhold på ulike språk for å nå ulike målgrupper og regioner.
Blant språkene som ble identifisert i denne undersøkelsen, er engelsk (for USA, Storbritannia, Australia og andre), rumensk, italiensk, spansk, portugisisk, tysk, fransk, russisk, tsjekkisk, slovakisk, slovensk, latvisk, litauisk, ungarsk, bulgarsk, polsk, gresk, kroatisk og andre.
Totalt har svindlerne generert tusenvis av sider som promoterer svindel med medisinske kosttilskudd, og titusenvis av ondsinnede annonser i sosiale medier.
Vi spurte Bizga, sikkerhetsanalytiker hos Bitdefender, om hvilke befolkningsgrupper og helsetilstander som er de mest målrettede.
“Annonsene henvender seg til ulike grupper, og noen er spesielt rettet mot eldre mennesker. Blant de mest populære helsetilstandene har vi registrert en stor interesse for kosttilskudd som sies å kurere diabetes, synsrelaterte problemer, leddsmerter, hjertesykdommer, Alzheimers og tinnitus.”
Bizga legger til at i tillegg til sosiale medier som eies av Meta, har de også identifisert ondsinnede annonser levert gjennom Google Ads på ulike andre nettsteder. “Disse annonsene ligner de som er sett på Metas plattformer,” sa Bizga.
Målet med disse helsesvindlene er ikke bare å selge ineffektive “mirakelkurer”, men også å stjele ofrenes personlige og økonomiske data. Bizga gikk gjennom trinnene i disse angrepene.
“Når forbrukerne er overbevist, blir de sendt til falske netthandelssider for å kjøpe kosttilskuddene. Dessverre er produktene som selges vanligvis ineffektive, usikre eller ikke-eksisterende, noe som fører til økonomisk tap og potensiell helserisiko for forbrukerne.”
Bizga forklarer at forbrukere som blir offer for svindlere, ikke bare taper penger på disse falske produktene, men at de også risikerer å få stjålet finansielle og personlige data i prosessen.
AI Deepfake utnytter internasjonal rettshåndhevelse og jurisdiksjonsgap
Bander eller grupper som driver ulovlig svindel og bedrageri på kundesentre opererer ofte på tvers av landegrenser, noe som gjør at myndigheter og ofre i USA, Europa eller andre regioner ikke vet hvordan de skal reagere.
Bizga fra Bitdefender sier at for å håndtere kompleksiteten og de jurisdiksjonelle utfordringene som ligger bak falske kosttilskudd og helseprodukter, kreves det et bedre samarbeid mellom helsemyndigheter og politimyndigheter både nasjonalt og internasjonalt.
“En effektiv bekjempelse av disse svindelforsøkene krever at det opprettes et globalt nettverk som er strengt dedikert til å dele informasjon om kjente svindelforsøk med kosttilskudd og helseprodukter, falske aktører og mistenkelige nettsteder.”
Bizga legger til at det er et stort behov for holdningskampanjer for å opplyse forbrukerne om risikoen forbundet med å kjøpe eller innta slike produkter, og for å håndheve strenge regler for markedsføring og salg av disse kosttilskuddene med regelmessig overvåking for å hindre svindel.
Myndighetene legger også press på sosiale medier for å få dem til å bekjempe deepfake-svindel og andre typer svindel på plattformene sine.
Ben Clayton, administrerende direktør i Media Medic, et profesjonelt lydsikkerhetsselskap for helsevesenet, sier til Techopedia at disse kampanjene er mer enn bare villedende annonser, og at de kan forårsake reell skade.
“Etter det jeg har forstått, er disse gruppene utrolig godt organiserte og teknisk kyndige. De har infrastruktur og ressurser til å gjennomføre sofistikerte svindelforsøk. Dette er ikke bare tilfeldige hackere i en kjeller. Dette er koordinerte anstrengelser med seriøs teknisk kunnskap bak seg.”
Konklusjon
AI-drevne deepfakes er i ferd med å bli et potent våpen for nettkriminelle, og helsesvindel er i ferd med å bli et hovedmål. Ved å utgi seg for å være kjendiser, leger og andre kjente personer skaper disse svindlerne svært overbevisende reklame for falske mirakelkurer.
I takt med at AI-teknologien blir stadig mer avansert, blir også svindlene stadig mer sofistikerte, noe som gjør det stadig vanskeligere for brukerne å skille fakta fra fiksjon. For å beskytte seg selv må man utvise ekstrem forsiktighet når man støter på helsepåstander på nettet, verifisere informasjon fra anerkjente kilder og være på vakt mot uoppfordrede tilbud eller påtrykkstaktikker.
