Os comentários foram feitos na American Dynamism Summit, em Washington, um encontro de empresas de tecnologia interessadas em trabalhos relacionados ao espaço e à segurança nacional. A cúpula ocorreu poucos dias após um desacordo sobre como o Pentágono poderia usar as poderosas e amplamente utilizadas ferramentas de IA da Anthropic, levando o presidente Donald Trump a proibir a startup de fazer negócios com o governo norte-americano e classificá-la como um risco à segurança nacional.
“Eu tive um momento de ‘nossa, que surpresa’”, disse Michael na American Dynamism Summit em Washington. “Há coisas… você não pode planejar uma operação… se isso puder levar a impactos cinéticos” ou explosões. Ele descreveu dezenas de restrições incorporadas aos acordos que cobrem comandos responsáveis por operações aéreas sobre Irã, China e América do Sul.
Michael disse que os contratos foram estruturados de forma que se um operador violar os termos de serviço, o modelo de IA pode, teoricamente, “simplesmente parar no meio de uma operação”. O Claude, da Anthropic, é o único modelo de IA disponível para o Departamento de Defesa dos EUA em seus sistemas confidenciais na época em que Michael conduziu a análise.
Suas preocupações se intensificaram depois que um executivo sênior de uma empresa de IA não identificada levantou questões sobre se seu software havia sido usado no que Michael chamou de uma das operações militares mais bem-sucedidas da história recente. Claude, da Anthropic, teria sido usado para ajudar a planejar a operação do governo dos EUA que capturou o ex-presidente venezuelano Nicolás Maduro em janeiro.
“O que não vamos fazer é permitir que qualquer empresa dite um novo conjunto de políticas além do que o Congresso aprovou”, disse Michael.
As revelações podem ajudar a explicar a disputa entre a Anthropic e o Departamento de Defesa dos EUA. O secretário de Defesa, Pete Hegseth, declarou a empresa um “risco para a cadeia de suprimentos” por se recusar a ceder nas negociações sobre restrições a armas autônomas e vigilância em massa.
Deixe um comentário