Os incidentes com deepfakes estão afetando cada vez mais as organizações, com 43% relatando pelo menos um incidente com chamada de áudio e 37% vivenciando deepfakes em chamadas de vídeo, revela pesquisa feita com 302 líderes de segurança cibernética, feita pelo Gartner. Os Chief Information Officers (CIOs) e líderes de segurança que subestimam esses riscos colocam suas companhias e carreiras em risco. No entanto, muitos ainda têm dificuldade para monitorar e proteger identidades digitais, deixando lacunas críticas em suas estratégias de segurança.

Apeksha Kaushik, Analista Principal do Gartner, diz que as campanhas de desinformação e deepfakes impulsionados por IA são cada vez mais usados por adversários para acessar dados sensíveis, interromper operações, manipular a opinião pública e obter ganhos financeiros ou políticos. Ele lembra que 62% das organizações sofreram pelo menos um ataque com deepfake nos últimos 12 meses que incluiu alguma forma de engenharia social ou explorou processos automatizados existentes, de acordo com a pesquisa do Gartner com líderes de segurança cibernética.

O Gartner prevê que, até 2027, os agentes de IA reduzirão pela metade o tempo necessário para explorar a apropriação de contas, dando às organizações ainda menos tempo para responder a essas ameaças. Os agentes de IA automatizarão mais etapas na cadeia de apropriação de contas, incluindo o uso de vozes via deepfake para tornar a engenharia social mais convincente e comprometer os canais de autenticação.

O especialista do Gartner adverte: Ignorar a segurança contra desinformação é uma ameaça direta à continuidade dos negócios e à credibilidade da liderança. Os líderes correm o risco de causar graves danos à reputação deles próprios e de suas organizações, minando a confiança das partes interessadas e desencadeando um escrutínio regulatório em cenários como violações de dados ou falhas de conformidade.

A superfície de ataque digital, incluindo ativos da marca, perfis de executivos e dados sensíveis, é um alvo fácil para os adversários, especialmente quando as organizações não monitoram e gerenciam proativamente seus ativos digitais como parte do gerenciamento da superfície de ataque. Ativos acessíveis ao público, como contas em redes sociais, fotos de executivos e logotipos corporativos, são especialmente vulneráveis ao uso indevido em ataques de personificação, incluindo sites falsos e conteúdo fraudulento.Narrativas falsas sobre a empresa ou seus executivos podem se espalhar rapidamente pelas plataformas digitais, tornando quase impossível corrigir ou rastrear a origem da desinformação depois que ela se espalha.

Kaushik assinala que o Gartner prevê que, até 2027, 50% das empresas estarão investindo em produtos ou serviços de segurança contra desinformação e estratégias TrustOps, em comparação com menos de 5% atualmente. Os serviços de inteligência de ameaças e proteção contra riscos digitais (DRPS) já são componentes da segurança contra desinformação. Agora, uma tática emergente chamada inteligência narrativa está expandindo os recursos de segurança contra desinformação, oferecendo uma capacidade de defesa mais proativa.