A Anthropic disse discordar da descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deva ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas. “Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores de modelos”, observou a companhia.
A Anthropic informou que implementou medidas de segurança robustas que reduzem significativamente a probabilidade de o Fable ser usado indevidamente para tarefas relacionadas à segurança cibernética (entre outras). “Aliás, nossas medidas de segurança são tão fortes que muitos usuários reclamaram que são excessivamente abrangentes”, salientou a empresa.
Ainda segundo a companhia, nas semanas que antecederam o lançamento de Fable, a Anthropic trabalhou com o governo dos EUA, o AISI do Reino Unido, diversas organizações privadas terceirizadas e equipes internas para realizar testes de intrusão nas medidas de segurança de Fable, totalizando milhares de horas.
“Esses testes demonstraram que as medidas de segurança do Fable são substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”, pontuou.
A diferença entre Fable e Mythos está nos mecanismos de controle. O Claude Fable 5 é o modelo de inteligência artificial generativa mais avançado, que se destaca em engenharia de software, pesquisa científica e raciocínio autônomo, operando com eficiência superior a IAs anteriores em tarefas longas e detalhadas.
Deixe um comentário