A Anthropic afirmou que o governo acredita haver uma maneira de contornar, ou “quebrar”, uma salvaguarda que impede o uso do Fable para identificar vulnerabilidades de software. Argumentou que um potencial “jailbreak” limitado não deveria ser motivo para cortar o acesso a um modelo usado por centenas de milhões de pessoas.
A carta reiterou esse ponto, afirmando que a Anthropic já construiu proteções robustas e que a retirada dessas capacidades poderia ser “perigosa”, visto que os modelos de código aberto da China estão apenas alguns meses atrás dos melhores modelos norte-americanos, e Pequim provavelmente tem acesso a capacidades além daquelas que são publicamente conhecidas.
Qualquer regulamentação precisa ser baseada em evidências, claramente definida e aplicada de forma consistente, e “nenhum desses padrões foi seguido aqui”, disse Alex Stamos, outro signatário que atua como diretor de produtos da Corridor.
“Esta é uma reação exagerada do governo”, disse ele, acrescentando que houve uma disputa entre a Anthropic e a terceira parte que levantou a questão sobre a gravidade das conclusões, com base em suas conversas com os envolvidos.
A empresa de cibersegurança CrowdStrike na semana passada disse que hackers ligados à China representaram a maior ameaça de espionagem para empresas de tecnologia no último ano.
A empresa de IA avaliada em US$965 bilhões, que está se preparando para abrir seu capital, já teve desentendimentos com o governo dos EUA sobre o acesso aos seus modelos e o impacto deles na segurança nacional.
Deixe um comentário