Anthropic auxilia NSA em operações cibernéticas ofensivas, levantando dilemas éticos na IA

A Anthropic, uma das principais desenvolvedoras de inteligência artificial, está colaborando com a Agência de Segurança Nacional (NSA) dos Estados Unidos, fornecendo seu modelo de IA Mythos para operações cibernéticas ofensivas. Esta parceria inclui o envio de engenheiros da Anthropic para a agência, com o objetivo de auxiliar na utilização e personalização do modelo para a infiltração de redes de nações como China e Irã. A notícia, divulgada pelo Financial Times, acende um alerta sobre os dilemas éticos e os riscos de segurança no uso de tecnologias de IA de ponta, especialmente considerando a postura pública da Anthropic sobre a segurança da IA e sua recente disputa legal com o Departamento de Defesa dos EUA.

O que mudou na prática

Na prática, a Anthropic designou cerca de meia dúzia de engenheiros para trabalhar diretamente com a NSA. Esses profissionais, descritos como “engenheiros de campo avançados”, têm a função de guiar o uso do modelo Mythos e adaptá-lo para aplicações específicas de inteligência. Embora o envolvimento desses engenheiros em operações ativas permaneça incerto, fontes familiarizadas com o arranjo indicam que o Mythos seria útil para a infiltração de redes de países adversários.

O modelo Mythos, conhecido por suas avançadas capacidades de detecção e exploração de vulnerabilidades de software, foi inicialmente lançado sob restrições rigorosas devido ao potencial de ser weaponizado. Curiosamente, essa colaboração ocorre em meio a uma batalha legal em andamento entre a Anthropic e o Departamento de Defesa dos EUA. A empresa havia tentado restringir o uso de seus modelos Claude para vigilância em massa de cidadãos americanos e drones autônomos letais. Em resposta, o Pentágono classificou a Anthropic como um “risco na cadeia de suprimentos”, uma designação que a empresa contesta judicialmente.

Recentemente, a Anthropic expandiu o acesso ao Mythos para 150 organizações em 15 países, indo além dos EUA e Reino Unido. Esta ampliação da disponibilidade global do modelo, combinada com seu uso em operações de cibersegurança ofensiva por uma agência de inteligência, ilustra a complexidade crescente do cenário da IA e a tensão entre a inovação tecnológica e as preocupações com a segurança nacional e a ética.

Impacto e por que importa

Para empresas brasileiras e globais que dependem de tecnologias de IA, este desenvolvimento tem implicações significativas. Primeiramente, a colaboração entre uma empresa de IA de ponta e uma agência de segurança nacional para fins ofensivos levanta sérias questões sobre a confiança e a neutralidade dos fornecedores de IA. Empresas que utilizam modelos como o Claude da Anthropic podem precisar reavaliar os riscos associados à sua cadeia de suprimentos de IA, especialmente no que tange à segurança de dados e à potencial exposição a usos não intencionais ou controversos de suas ferramentas.

Em segundo lugar, a situação destaca o dilema do “uso dual” da tecnologia de IA. Modelos poderosos, capazes de identificar vulnerabilidades para defesa cibernética, podem ser igualmente eficazes na exploração dessas mesmas falhas para ataques. A própria Anthropic tem alertado sobre os riscos da “autoaperfeiçoamento recursivo” da IA, onde os sistemas podem se aprimorar mais rapidamente do que a sociedade consegue gerenciar os riscos, e chegou a pedir uma pausa coordenada no desenvolvimento de IA de fronteira. Esta postura contrasta com seu envolvimento em operações cibernéticas ofensivas, criando uma dissonância que pode impactar a percepção pública e regulatória sobre a responsabilidade das empresas de IA.

Para as empresas brasileiras, isso significa uma necessidade ainda maior de diligência na escolha de parceiros de IA, considerando não apenas a capacidade técnica, mas também as políticas de uso, a transparência e o alinhamento ético. A potencial automação de ataques cibernéticos por IA pode encurtar as janelas de defesa e aumentar a severidade das perdas, impactando diretamente o setor de seguros cibernéticos e exigindo uma revisão das suposições de subscrição e modelos de risco.

O que monitorar e próximos passos

Empresas e formuladores de políticas devem monitorar de perto os desdobramentos desta situação. A disputa legal da Anthropic com o Pentágono e a reação de outros governos e parceiros internacionais ao seu envolvimento com a NSA serão indicadores importantes do futuro da regulamentação e da governança da IA. A forma como os governos buscam acesso preferencial a IAs de fronteira antes que as estruturas legais e regulatórias formais sejam estabelecidas é um ponto crítico.

Além disso, é fundamental acompanhar o debate sobre o controle e a ética no desenvolvimento da IA. A própria Anthropic reconhece que a capacidade da IA de se autoaperfeiçoar pode levar a avanços inimagináveis, mas também a riscos de perda de controle humano. A necessidade de mecanismos de coordenação global para garantir a segurança e o alinhamento da IA é mais urgente do que nunca. Empresas brasileiras devem investir em estratégias robustas de cibersegurança e governança de IA, preparando-se para um cenário onde a fronteira entre defesa e ataque cibernético, impulsionada pela IA, se torna cada vez mais tênue.