O Relatórios do FBI que as reclamações sobre vídeos deepfake de IA mais que dobraram e as perdas financeiras quase triplicaram este ano.
A Agentic AI foi criada para acelerar esse processo, tornando ainda mais fácil o comprometimento fraude com deepfakes. Conversamos com Alix Melchy, vice-presidente de IA da Júmio para discutir a ameaça e como combatê-la.
BN: O que está alimentando esse aumento dramático de deepfakes e como a IA agêntica está acelerando essa tendência?
AM: Estamos testemunhando uma mudança significativa no cenário das ameaças cibernéticas, já que os deepfakes não são mais uma ferramenta de nicho para malfeitores isolados. Com a IA agêntica, o custo e a complexidade de criação e implantação de deepfakes caíram drasticamente. Esses sistemas de IA agora fornecem a inteligência contextual necessária para personalizar ataques em grande escala. Não se trata apenas de engano visual, trata-se de usar agentes de IA para simular interações humanas convincentes, realizar engenharia social em tempo real e até mesmo automatizar o roubo de identidade.
A Agentic AI está tornando a fraude escalonável e hiperdirecionada. Está a alimentar o que os especialistas em segurança cibernética chamam de industrialização da fraude. Os círculos de fraude organizados operam em bandos, visando indústrias que vão desde o jogo à economia partilhada, e até mesmo a instituições financeiras de elevado valor. Isso é problemático para as equipes de segurança corporativa, pois elas operam como uma empresa solitária contra grandes organizações fraudulentas.
BN: Ouvimos muito sobre a “industrialização da fraude”. Você pode explicar como a IA de agência está reduzindo o custo e a complexidade da execução de campanhas de fraude de identidade em grande escala?
AM: A Agentic AI muda a economia da fraude: ela comoditiza o segmento inferior do mercado e aumenta as margens operacionais no segmento superior. Dada a complexidade dos ataques sofisticados, os fraudadores adotaram a mesma abordagem que as empresas de software com APIs de terceiros e ferramentas baseadas em nuvem. Com a IA agêntica, eles podem automatizar os fluxos de trabalho que integram esses serviços, da mesma maneira que as empresas legítimas automatizam seus fluxos de trabalho. Eles estão essencialmente montando pipelines modulares de fraude e, se uma ferramenta não funcionar, eles podem facilmente mudar para outra. A iteração rápida e a acessibilidade estão transformando o crime cibernético em um negócio muito adaptável e escalável. Da mesma forma que a ideia da startup individual agora possível com a IA de agência, o empreendimento de fraude individual está se tornando uma realidade.
BN: Dada a crescente prevalência de deepfakes e personas geradas por IA, como a Jumio está evoluindo sua estratégia de verificação de identidade para se manter à frente dessas ameaças cada vez mais convincentes?
AM: Na Jumio, reconhecemos que a verificação pontual não é mais suficiente. Estamos migrando para a confiança adaptativa contínua – um modelo de inteligência de identidade que avalia continuamente o comportamento do usuário, a reputação do dispositivo, os sinais biométricos e o risco contextual para determinar a confiabilidade.
Isto envolve a combinação de técnicas avançadas de IA com estruturas de dados comprovadas, como gráficos de conhecimento e defesas biométricas em camadas. Por exemplo, nossos sistemas utilizam sinais multimodais, como reconhecimento facial, análise de documentos e biometria comportamental. Em seguida, analisamos esses sinais nas transações. Se algo parece fora de contexto ou inconsistente, esse insight ajuda a desencadear uma resposta apropriada, seja aumentando o atrito ou negando acesso.
Também estamos implantando modelos de IA em rede para análise de risco aprimorada. Esses sistemas avaliam comportamentos de identidade em transações, dispositivos e endereços IP. Essa visão entre redes fornece uma camada de defesa muito mais forte e nos ajuda a proteger identidades, ao mesmo tempo que simplifica os processos de integração e login. Pense nisso como motoristas mais seguros obtendo taxas de seguro mais baixas; os usuários de baixo risco enfrentam menos barreiras, enquanto os comportamentos de alto risco (por exemplo, vários logins de dispositivos desconhecidos) acionam verificações adicionais, mantendo a segurança sem comprometer a confiança. As organizações podem revelar sinais de risco que revelam grupos maiores de fraudes operando nas sombras.
Nosso objetivo não é apenas detectar fraudes quando elas acontecem, mas também antecipá-las e preveni-las com inteligência baseada em riscos e em tempo real.
BN: Com a IA generativa confundindo a linha entre identidades reais e falsas, qual o papel que a confiança adaptativa contínua desempenha na segurança dos ecossistemas digitais em 2025 e além?
AM: A confiança adaptativa contínua é fundamental para a inteligência de identidade moderna. Devemos verificar as identidades de forma dinâmica, com base na mudança de sinais de risco e no comportamento contextual.
Isso também nos permite aplicar fricção personalizada. Usuários confiáveis com comportamento consistente podem vivenciar uma jornada sem atritos. Enquanto isso, anomalias, por exemplo, um novo dispositivo ou um padrão de velocidade inesperado, podem desencadear verificações mais rigorosas. A IA permite-nos personalizar a experiência do utilizador com base na confiança que temos na sua identidade naquele momento.
E o mais importante é que tudo isto tem de acontecer com fortes salvaguardas de privacidade em vigor. Conceitos como provas de conhecimento zero estão se tornando mais relevantes, capacitando os usuários a compartilhar apenas os dados necessários. Por exemplo, realizar medidas de verificação de idade sem recolher dados sensíveis desnecessários do indivíduo.
O sucesso pertencerá às organizações que tratarem a confiança como um processo vivo e adaptativo nos próximos anos. Eles aproveitarão a IA para antecipar a fraude antes que ela ocorra, em vez de adotar uma abordagem reativa. Estas são as organizações que construirão a confiança da marca junto aos usuários, escalarão com segurança e permanecerão à frente em seus mercados.
Fonte: www.betanews.com
Link da Fonte
