Dúvida paira nos Estados Unidos sobre acesso chinês ao Claude Mythos e Fable 5, modelos avançados de IA da Anthropic.
Na última sexta-feira, 12 de abril, o governo dos Estados Unidos tomou uma medida drástica, impondo severas restrições à Anthropic. A ordem determinou que a empresa limitasse o acesso aos seus modelos de inteligência artificial, Mythos e Fable 5, exclusivamente a cidadãos americanos.
Essa decisão, que acabou forçando a Anthropic a retirar as ferramentas do ar globalmente, foi motivada pela forte suspeita de que um grupo com ligações com a China teria obtido acesso à tecnologia. Além disso, denúncias sobre vulnerabilidades críticas nos sistemas também contribuíram para a ação.
A questão central que paira nos corredores do poder americano é: a China teve acesso ao Mythos? Embora ainda não haja confirmação oficial, o risco é tratado como uma grave ameaça à segurança americana. Conforme informação divulgada, a Casa Branca impôs esses controles pelo temor de que o governo chinês já estivesse utilizando o Mythos.
O que é o Mythos e por que ele preocupa os EUA?
O modelo Mythos, liberado em abril para um grupo seleto de parceiros, é reconhecido por sua alta capacidade em identificar falhas em códigos. Essa habilidade o torna uma ferramenta valiosa, mas também um alvo potencial para adversários. Se o acesso chinês for confirmado, o país poderia realizar engenharia reversa por meio de um método chamado destilação.
Neste processo, uma IA aprendiz é treinada com os dados de um modelo mais avançado para copiar seu funcionamento. O alerta sobre essa possibilidade teria chegado à Casa Branca através de Andy Jassy, CEO da Amazon. No entanto, a Anthropic declarou que o assunto não foi mencionado durante as exigências impostas pelo governo.
Justificativas oficiais e a reação da Anthropic
Publicamente, a gestão americana justificou a ação com base em falhas de segurança. O assessor David Sacks afirmou que o governo recebeu denúncias sobre um jailbreak no Fable 5, a versão para consumidores do Mythos. Jailbreak é um procedimento que quebra as travas de segurança da IA, permitindo sua manipulação para fins maliciosos, como ciberataques.
Diante da exigência de restringir o uso apenas a americanos, a Anthropic optou por desligar o acesso geral às plataformas por questões técnicas. Essa medida impactou usuários em todo o mundo, gerando incertezas sobre a disponibilidade futura dessas tecnologias.
Tensões intensificadas entre Anthropic e o governo americano
A crise atual intensifica as tensões já existentes entre a Anthropic e o governo americano. A empresa, vale lembrar, também está processando o Pentágono após ter sido classificada como “um risco à segurança nacional“. Apesar do atrito, Sacks garante que essa disputa não influenciou no bloqueio das ferramentas de IA.
A situação levanta discussões importantes sobre o controle e a segurança de tecnologias de inteligência artificial avançada. O temor de que essas ferramentas caiam em mãos erradas e sejam usadas para fins hostis é uma preocupação crescente para governos em todo o mundo, especialmente em um cenário de tensões geopolíticas.