A McAfee deu um grande passo para ajudar os usuários a se manterem seguros on-line, introduzindo uma nova solução para detectar vídeos falsos feitos com IA.
Essa ferramenta, o AI Deepfake Detector, é a primeira do gênero e já está disponível em alguns computadores Lenovo com tecnologia de IA.
Roma Majumder, vice-presidente sênior da McAfee, disse que a empresa se dedica a usar a IA para o bem. Ela explicou que essa nova ferramenta capacita as pessoas a se protegerem contra o “engano digital”.
“Imagine não precisar mais se preocupar se aquele vídeo que você viu de um político dizendo algo ultrajante é real, ou se aquele conselho de investimento de Warren Buffet é legítimo”, explicou Majumder. “Com o McAfee Deepfake Detector, você obtém as respostas em segundos.”
Deepfakes são vídeos gerados por IA criados para representar eventos ou ações que nunca aconteceram. Esses vídeos geralmente são criados usando uma técnica de aprendizado de máquina chamada “rede adversária generativa”, ou GAN, combinando diferentes imagens para criar uma filmagem nova, mas fictícia, para enganar e iludir.
De acordo com um novo estudo, houve um aumento de 303% nas deepfakes, o que é motivo de preocupação para empresas e entidades políticas.
Esse aumento é particularmente desconcertante à medida que os EUA se aproximam de um ciclo eleitoral crítico, no qual as deepfakes podem ser usadas para manipular a opinião pública e enganar os eleitores, o que pode prejudicar o processo democrático.
O AI Deepfake Detector usa tecnologia avançada de IA que foi treinada em quase 200.000 amostras de vídeo para descobrir se um vídeo foi adulterado.
Para ajudar os usuários a saber mais sobre deepfakes e outros golpes de IA, a McAfee também criou um recurso on-line chamado Smart AI Hub. Esse site oferecerá dicas e informações para ajudá-lo a identificar conteúdo falso e manter-se seguro on-line.
No mundo das criptomoedas, os deepfakes se tornaram uma ferramenta predominante para os golpistas. Os esquemas fraudulentos geralmente envolvem vídeos falsos de personalidades conhecidas que promovem oportunidades de investimento inexistentes ou esquemas de brindes.
Por exemplo, vídeos deepfake foram usados para promover um esquema de distribuição de criptomoedas de Elon Musk, enganando usuários desavisados para que transferissem fundos para os golpistas.
Expandindo a luta contra os deepfakes
A McAfee não é a única empresa que está tentando resolver o problema das falsificações profundas. Plataformas de mídia social, como o TikTok, já possuem ferramentas para detectar imagens geradas por IA.
Em junho, a bolsa de criptomoedas Bitget fez uma parceria com a Sumsub para melhorar a segurança de seus usuários por meio de um processo de verificação baseado em IA.
Ao combinar uma poderosa tecnologia de IA com um compromisso com a privacidade do usuário, a McAfee está ajudando a garantir que as pessoas possam confiar no que veem on-line.
Com o lançamento do Smart AI Hub, a empresa também está tentando oferecer aos usuários o conhecimento necessário para se manterem seguros em um mundo cada vez mais orientado por IA.