AI-identitetstyveri øker med 340 %: Ekspertanalyse

Etter hvert som cybertruslene utvikler seg, har identitetssikkerhet blitt viktigere enn noensinne i frontlinjen mot cyberangrep. En fersk rapport fra SlashNext viser at trusselaktører utnytter generative AI-verktøy for å hjelpe til med phishing-svindel, noe som har ført til en økning i phishing på 341 % på bare seks måneder.

Denne massive bølgen av nye angrep inkluderer ondsinnede lenkeangrep, kompromittering av e-post fra bedrifter (BEC), phishing med QR-koder og vedleggsbaserte e-post- og flerkanals-meldingstrusler.

SlashNext rapporterer at siden den første generative AI-teknologien ble offentliggjort (ChatGPT i november 2022), har det vært en økning på 4151 % i antall ondsinnede phishing-meldinger som sendes .

I dag bruker 80 % av alle sikkerhetsbrudd kompromitterte identiteter, noe som koster bedrifter milliarder av dollar årlig. Med utbredelsen av SaaS-applikasjoner og kunstig intelligens øker også volumet av angrep rettet mot identiteter – med en økning på 71 % fra år til år, ifølge IBM Threat Intelligence Index 2024.

Innholdsfortegnelse Innholdsfortegnelse

1. Nøkkelpunkter
2. Hvordan AI-teknologi for identitetstyveri fører krig i organisasjoner
3. Skjulte kostnader: Tillit, forstyrrelser, juridiske spørsmål og forsikring
4. Neste generasjons AI-svindelroboter og GenAI-angrep
5. Konklusjon
6. Ofte stilte spørsmål
7. Referanser

Se hele listen

Innholdsfortegnelse

1. Nøkkelpunkter
2. Hvordan AI-teknologi for identitetstyveri fører krig i organisasjoner
3. Skjulte kostnader: Tillit, forstyrrelser, juridiske spørsmål og forsikring
Se hele listen
4. Neste generasjons AI-svindelroboter og GenAI-angrep
5. Konklusjon
6. Ofte stilte spørsmål
7. Referanser

Hvordan AI-teknologi for identitetstyveri fører krig i organisasjoner

Identitetsbaserte angrep blir stadig mer sofistikerte etter hvert som angriperne utnytter kunstig intelligens til å automatisere og skalere.

Jim Alkove, tidligere Chief Trust Officer hos Salesforce og Microsoft Security CVP, og nåværende administrerende direktør i Oleria, snakket om identitetssikkerhet med Techopedia.

“Identitet er den største utfordringen innen cybersikkerhet i dag. Hvis du ikke vet hvem og hva som samhandler med dataene dine, kan du ikke sikre dem.”

I tillegg til å koste amerikanske selskaper i gjennomsnitt 9,48 millioner dollar per sikkerhetsbrudd, forårsaker identitetsrelaterte sikkerhetshendelser eller tyveri betydelig skade på omdømmet. Alkove snakket om de skjulte kostnadene ved identitetstyveri.

“Når et selskap rammes av en alvorlig sikkerhetshendelse, går det ikke bare ut over forretningsdriften – det kan også påvirke tilliten hos kunder og partnere på lengre sikt.”
“Med rekordmange sikkerhetsbrudd i år og nye AI-drevne sikkerhetstrusler har det aldri vært viktigere for bedrifter å utvikle og modernisere sin tilnærming til identitetssikkerhet.”

“Teknikker som AI-drevet phishing, der maskinlæringsalgoritmer genererer svært personaliserte phishing-e-poster, blir stadig vanligere”, sier Alkove.

“I tillegg brukes kunstig intelligens til å lage “deepfakes“, som kan lure både enkeltpersoner og systemer, noe som kompliserer sikkerhetsarbeidet ytterligere.”

Alkove forklarte at angriperne bruker kunstig intelligens til å analysere store mengder data for å identifisere sårbarheter i programvaren, noe som tvinger sikkerhetsteamene til stadig å tilpasse og utvikle forsvaret sitt, ofte med begrensede ressurser.

Hal Lonas, teknologidirektør i Trulioo, sa til Techopedia at AI-drevne identitetstyverier fører til skader som strekker seg langt utover økonomiske tap.

“Angrepene kan påvirke de ansattes moral og skape en følelse av at interne team ikke er forberedt på kampen. Det kan føre til uproduktive reaksjoner.”

Denne typen angrep kan også påvirke innovasjonen, ettersom organisasjoner oppfatter nye produkter eller løsninger som potensielle mål for hackere. Dette gir bedriftene en ulempe ved at de utsetter innføringen av avansert teknologi på grunn av sikkerhetsbekymringer.

Skjulte kostnader: Tillit, forstyrrelser, juridiske spørsmål og forsikring

I 2023 sporet Identity Theft Resource Center (ITRC) 3 205 datakompromitteringer, en økning på 72 % fra den forrige toppnoteringen i 2021. Samtidig rapporterte Federal Trade Commission (FTC) om over 10 milliarder dollar i svindeltap i 2023, en økning på 14 % fra 2022, noe som understreker den økte sårbarheten og den påfølgende mistilliten blant forbrukere.

Jim Kaskade, administrerende direktør i Conversica, en leverandør av kunstig intelligens for inntektsteam, snakket med Techopedia om fremtiden for identitetstyveri med kunstig intelligens.

“Jeg tror at 60 % av disse angrepene vil være drevet av kunstig intelligens i fremtiden. AI-drevne angrep, som deepfakes, syntetiske identiteter og sofistikerte phishing-svindel, har blitt mer utbredt.”

I tillegg påvirker AI-identitetstyveri virksomhetens kontinuitet. ITRC fant ut at nesten 11 % av alle børsnoterte selskaper ble utsatt for datainnbrudd i 2023. Disse bruddene resulterte i betydelige driftsforstyrrelser og avledning av ressurser for å håndtere og redusere sikkerhetshendelser. Kaskade fra Conversica fortalte Techopedia at trenden forventes å øke drevet av AI.

“AI forbedrer effektiviteten og suksessraten for angrep, noe som fører til hyppigere og mer alvorlige driftsforstyrrelser. AI-algoritmer kan automatisere storskala phishing- og legitimasjonsstoppingsangrep og forårsake omfattende driftsforstyrrelser.”

De juridiske kostnadene øker også, og i 2023 vil tapene overstige 10 milliarder dollar. “Når AI muliggjør mer sofistikerte og storstilte angrep, blir det stadig vanligere med juridiske konsekvenser, inkludert bøter og søksmål”, sier Kaskade.

I tillegg kommer skjulte kostnader som gjenoppbygging etter angrep og gjenoppbygging av bånd, samt dyrere cyberforsikringspremier.

Alkove fra Oliera legger til at den konstante trusselen om angrep skaper et stressende miljø for sikkerhetsteamene, noe som fører til utbrenthet og ofte menneskelige feil.

“Tapte forretningsmuligheter er en annen langsiktig kostnad, ettersom potensielle kunder og partnere kan være skeptiske til å samarbeide med et selskap som har en historie med sikkerhetshendelser”, sier Alkove.

Neste generasjons AI-svindelroboter og GenAI-angrep

Christopher Tennyson, direktør for produktmarkedsføring i Kount, et Equifax-selskap som jobber med svindel, identitet og compliance, snakket med Techopedia om hvordan ondsinnede roboter har blitt oppgradert med AI, noe som gjør det vanskeligere å oppdage svindel.

Tennyson forklarte at roboter som pleide å utføre spesifikke handlinger, var enkle å oppdage ved hjelp av maskinlæringsmodeller og kunstig intelligens som kunne identifisere ikke-menneskelig atferd.

“Så måtte svindlerne tilpasse seg og begynte å bruke kunstig intelligens selv. Et enkelt skript kunne ikke bare aktivere atferd som kunne etterligne en ekte person.”

“Fremveksten av Gen AI har bare økt disse mulighetene ved å gjøre det mulig for bots å omgå allment aksepterte bot-deteksjonssjekker som CAPTCHA”, sier Tennyson.

Tennyson sa at deep fakes er et annet område der de er vitne til betydelige fremskritt. “Ved å samle inn noen få eksempler på en persons ansikt og stemme, kan en svindler nå etterligne en video- eller telefonsamtale der vedkommende utgir seg for å være den personen”, la Tennyson til.

Ved hjelp av GenAI kan nettkriminelle også lage tekster på et hvilket som helst språk og omgå automatiserte sikkerhetsmodeller som baserer seg på nyanser og feil for å oppdage et angrep.

Tennyson forklarer at kriminelle innovasjoner skaper en rekke kostnader for organisasjoner, fra driftsressurser som omdirigeres og påvirker ytelse og vekst til pågående svindel, økonomiske konsekvenser, reduksjon av aksjekursen, kreditt- og finansieringsbegrensninger og økte kostnader til teknologiinvesteringer for å bekjempe nye sårbarheter.

Konklusjon

Som Chris Hills, Chief Security Strategist hos BeyondTrust, sa til Techopedia: “Når det gjelder de organisatoriske konsekvensene av AI-drevet identitetstyveri, har vi ikke engang begynt å se den voldsomme eller langvarige effekten av det som vil komme” .

Hills la til at AI-angrep vil øke, nå en topp og bli et kritisk problem, akkurat som løsepengevirus gjorde.

“AI-drevne identitetstrusler er i en tidlig fase. De vil bli mer sofistikerte, og AI vil gjøre det mulig for trusselaktører å effektivisere angrepsveiene i en hastighet vi aldri har sett eller blitt utsatt for før”, sier Hills.

“Når det gjelder AI-angrep på identiteter, ser vi en slik utvikling på tvers av deepfake lyd- og videoidentitetsimitasjon, (at) sluttbrukere, ingeniører og ledere nå må stille spørsmål ved hva som er ekte og hva som er falskt, det er blitt SÅ BRA!”

Konklusjonen er at sammensmeltingen av kunstig intelligens og nettkriminalitet har innledet en ny æra av identitetstyveri med eksponentielt høyere innsats.

De skjulte kostnadene ved disse angrepene strekker seg langt utover økonomiske tap, og påvirker tillit, drift og til og med innovasjon. Etter hvert som AI fortsetter å utvikle seg, må organisasjoner raskt tilpasse sikkerhetsstrategiene sine for å bekjempe denne økende trusselen, ellers risikerer de katastrofale konsekvenser.

Ofte stilte spørsmål