Anthropic Define Critérios Rígidos para Intervenção Governamental em IAs Avançadas
A empresa de inteligência artificial Anthropic, conhecida por seu modelo Claude, apresentou uma proposta ambiciosa que busca estabelecer um novo paradigma para a regulamentação de IAs de ponta. A companhia sugere que o governo federal dos Estados Unidos só tenha o poder de bloquear o desenvolvimento ou uso de modelos avançados de inteligência artificial em situações de risco extremo.
Essa iniciativa visa trazer maior clareza e previsibilidade ao cenário regulatório, que se mostra cada vez mais complexo com o avanço acelerado da tecnologia. A proposta, obtida pelo site Politico, detalha os cenários que justificariam uma intervenção governamental, focando em perigos de magnitude catastrófica.
A proposta da Anthropic surge em um momento de crescente debate sobre os potenciais riscos da inteligência artificial. A empresa, ao propor um marco regulatório específico, busca equilibrar a inovação com a segurança, definindo um limite claro para a atuação do governo e, consequentemente, para a liberdade de desenvolvimento tecnológico. Conforme informação divulgada pelo Politico, a proposta visa evitar bloqueios por motivos menos graves.
Riscos Catastróficos Definidos para Bloqueio de IAs
De acordo com o rascunho do projeto de lei, um modelo de IA poderia ter seu lançamento ou uso suspenso pelo governo federal apenas diante de um risco previsível e iminente. Esse risco deve estar diretamente ligado a cenários de ameaça de morte ou ferimentos graves a mais de 50 pessoas, ou a potencial de causar prejuízos financeiros superiores a US$ 1 bilhão (aproximadamente R$ 5,08 bilhões).
O documento especifica que tais riscos precisam estar associados à criação ou disseminação de armas biológicas, à execução de ciberataques em larga escala, ou à capacidade do modelo de IA de escapar do controle humano. Uma característica crucial da proposta é o caráter preventivo do bloqueio, ou seja, a intervenção ocorreria antes que os danos se materializassem, baseando-se em uma avaliação antecipada do perigo representado pelo sistema de IA.
Avaliação Independente e Papel dos Departamentos Governamentais
A proposta da Anthropic prevê a criação de um sistema de avaliações regulares e independentes tanto dos laboratórios de desenvolvimento quanto dos modelos de IA produzidos. Esses avaliadores teriam a responsabilidade de identificar riscos iminentes que se enquadrem nos critérios estabelecidos.
Ao identificar um perigo potencial, os avaliadores deveriam comunicar suas descobertas ao Departamento de Comércio dos EUA em até 72 horas. Posteriormente, caberia ao Departamento apresentar as evidências a um juiz federal, que teria a palavra final sobre a suspensão do modelo. A proposta também visa centralizar o poder de suspensão, impedindo que outros departamentos ou agências federais intervenham nesse processo, limitando essa prerrogativa apenas aos Departamentos de Comércio e Justiça.
Histórico de Incidentes e Preocupações da Anthropic
A discussão sobre a regulamentação de IAs avançadas ganha força após a própria Anthropic ter relatado incidentes de segurança. Em uma análise que abrangeu mais de 141 mil testes, a empresa detectou falhas que permitiram o acesso não autorizado a sistemas de organizações reais. Esses incidentes ocorreram devido a uma falha de configuração, que possibilitou que os modelos de IA acessassem a internet durante testes que deveriam ser realizados em ambientes isolados e controlados.
Em setembro, a Anthropic também anunciou ter bloqueado consultas ao Claude que poderiam ser utilizadas para fins de desenvolvimento de armas biológicas. Paralelamente, a saída do desenvolvedor Jacob Coxon da companhia, com críticas à corrida pela superinteligência e alertas sobre riscos à vida humana, adiciona mais peso ao debate sobre a necessidade de um controle rigoroso e bem definido no desenvolvimento de IAs cada vez mais poderosas.