A relação entre cibersegurança e inteligência artificial entrou em uma nova fase. A tecnologia passou a ser usada, ao mesmo tempo, por equipes de defesa, criminosos digitais, grupos de espionagem e organizações responsáveis por proteger serviços essenciais.
O principal efeito não é apenas o surgimento de ataques completamente novos. A inteligência artificial aumenta a velocidade, a escala e o grau de personalização de técnicas já conhecidas, como phishing, fraude de identidade, disseminação de malware e exploração de vulnerabilidades. Também cria uma nova frente de proteção: os próprios sistemas de IA, seus dados, modelos, ferramentas e fornecedores precisam ser defendidos.
Relatórios recentes de órgãos especializados apontam que essa combinação está alterando o ambiente de ameaças digitais. A Agência da União Europeia para a Cibersegurança (Enisa), em seu levantamento sobre o período de julho de 2024 a junho de 2025, descreveu a IA como um elemento definidor do cenário de ameaças e destacou a convergência entre automação, industrialização e inovação ofensiva. (enisa.europa.eu)
Da automação de tarefas à escala industrial
Antes da popularização dos modelos generativos, os ataques digitais já utilizavam automação em diferentes etapas. Ferramentas eram empregadas para localizar alvos, testar credenciais, distribuir mensagens e identificar sistemas vulneráveis. A IA amplia esse processo ao permitir que conteúdos sejam produzidos e adaptados com mais rapidez.
Em campanhas de phishing, por exemplo, modelos de linguagem podem ajudar a elaborar mensagens com gramática correta, tom adequado ao público e referências específicas à rotina da vítima. A técnica não elimina a necessidade de planejamento por parte dos criminosos, mas reduz o esforço para criar grandes volumes de comunicações aparentemente legítimas.
O mesmo vale para golpes de engenharia social realizados por voz, vídeo ou imagem. A manipulação de mídias sintéticas pode facilitar a imitação de executivos, funcionários, fornecedores e pessoas conhecidas. O objetivo costuma ser induzir transferências, obter credenciais ou convencer alguém a abrir um arquivo e acessar um link.
O Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) relaciona os riscos da IA generativa à criação de conteúdos fraudulentos, à descoberta de vulnerabilidades e à ampliação de capacidades ofensivas em áreas como hacking, malware e phishing. (tsapps.nist.gov)
O phishing ganha precisão
O phishing continua baseado em um princípio antigo: explorar a confiança e a urgência para levar alguém a tomar uma decisão insegura. A diferença é que a IA pode tornar esse processo mais convincente e adaptável.
Mensagens podem ser traduzidas, revisadas e ajustadas para diferentes perfis. Um criminoso pode criar versões distintas de uma mesma campanha para funcionários de áreas financeiras, equipes de tecnologia ou clientes de uma empresa. A produção automatizada também facilita a repetição de tentativas até que uma delas consiga superar os filtros e a atenção do usuário.
O relatório de ameaças da Enisa para 2025 afirma que o phishing permaneceu como o principal vetor de intrusão analisado e registrou o uso crescente de IA em campanhas de engenharia social. O documento também aponta o uso de mídias sintéticas, modelos alterados e ferramentas específicas para ampliar a eficácia das operações. (enisa.europa.eu)
Isso não significa que toda mensagem bem escrita tenha sido produzida por IA. A avaliação continua dependendo do contexto, da origem da comunicação, do comportamento do remetente e de sinais técnicos. A tecnologia apenas torna mais difícil confiar exclusivamente em erros de ortografia, aparência amadora ou textos genéricos para identificar uma fraude.
A inteligência artificial também virou alvo
Enquanto ajuda a reforçar a defesa, a IA introduz novos pontos de ataque. Sistemas que usam modelos de linguagem podem ser afetados por injeção de instruções, manipulação de dados, vazamento de informações, abuso de permissões e comprometimento de componentes externos.
Um exemplo é o chamado sequestro de agentes. Sistemas de IA capazes de executar tarefas em nome do usuário podem receber instruções maliciosas escondidas em documentos, páginas ou mensagens que analisam. Se não houver controles adequados, o agente pode interpretar o conteúdo como uma ordem e realizar uma ação indevida.
O NIST descreveu esse risco como uma forma de injeção indireta de comandos e destacou a necessidade de avaliar agentes antes que eles recebam autonomia para executar atividades sensíveis. (nist.gov)
Também entram nessa categoria os ataques contra dados de treinamento, modelos, bibliotecas, interfaces e serviços de computação. Uma organização pode proteger sua rede tradicional e, ainda assim, manter vulnerabilidades em um modelo hospedado por terceiros, em um pacote de software ou em uma ferramenta usada para desenvolver aplicações com IA.
A defesa passa a usar IA
Do lado defensivo, a tecnologia pode analisar grandes volumes de registros, identificar comportamentos fora do padrão, priorizar alertas e acelerar a investigação de incidentes. Também pode ajudar equipes a comparar eventos, resumir informações técnicas e sugerir etapas de resposta.
O ganho potencial está na capacidade de lidar com um ambiente em que ataques ocorrem de forma contínua e deixam sinais distribuídos por diferentes sistemas. A IA pode encontrar relações que seriam difíceis de perceber manualmente, sobretudo quando há grande quantidade de dados.
Agências governamentais dos Estados Unidos vêm tratando a colaboração entre empresas, órgãos públicos e parceiros internacionais como parte da resposta aos riscos associados à IA. Em janeiro de 2025, a Agência de Segurança Cibernética e de Infraestrutura (Cisa) divulgou um manual para facilitar o compartilhamento voluntário de informações sobre incidentes e vulnerabilidades envolvendo sistemas de inteligência artificial. (cisa.gov)
A adoção, porém, não elimina a necessidade de supervisão humana. Modelos podem produzir respostas erradas, interpretar sinais de forma inadequada ou recomendar medidas desproporcionais. Em ambientes críticos, decisões automatizadas precisam ser acompanhadas por regras de acesso, registros de auditoria, testes, validação independente e possibilidade de intervenção.
Uma mudança de estratégia
A nova fase da cibersegurança exige que as organizações atuem em três frentes simultâneas: proteger sistemas que usam IA, empregar IA com segurança na defesa e se preparar para ataques potencializados por essa tecnologia.
Na prática, isso envolve atualizar políticas de acesso, controlar quais dados podem ser enviados a modelos, monitorar fornecedores, revisar bibliotecas e dependências, testar aplicações contra manipulação e manter procedimentos de resposta a incidentes. Medidas tradicionais, como autenticação multifator, correção de vulnerabilidades, cópias de segurança e treinamento de funcionários, continuam essenciais.
O NIST organiza essa abordagem em torno de três objetivos: proteger sistemas de IA, usar IA para melhorar a defesa e enfrentar ataques cibernéticos apoiados por inteligência artificial. A proposta indica que a segurança não deve ser acrescentada apenas depois que um modelo entra em operação, mas incorporada desde a seleção, o desenvolvimento e a implantação da tecnologia. (nist.gov)
A transformação, portanto, não representa o fim das práticas tradicionais de segurança digital. Ela aumenta a importância dessas práticas e exige sua adaptação a um ambiente mais automatizado, veloz e interconectado. A disputa entre ataque e defesa tende a depender menos de uma ferramenta isolada e mais da capacidade de combinar tecnologia, governança, profissionais qualificados e resposta coordenada.