A Anthropic, criadora do assistente virtual Claude, lançou um manifesto propondo uma pausa urgente no avanço da inteligência artificial (IA). A empresa compara os riscos da IA a armamentos nucleares e defende a criação de um acordo global para interromper temporariamente o desenvolvimento da tecnologia.
O objetivo principal é dar à sociedade um tempo crucial para lidar com as profundas implicações da IA, antes que ela atinja um ponto de autonomia considerado irreversível. A Anthropic planeja iniciar conversas com formuladores de políticas públicas, pesquisadores e executivos do setor para viabilizar essa paralisação.
A proposta surge em um momento de aceleração vertiginosa da IA, que caminha para se tornar não apenas uma ferramenta de auxílio, mas capaz de substituir o trabalho humano em larga escala e até mesmo de se autodesenvolver, eliminando a necessidade de supervisão humana. Essa visão foi divulgada em um manifesto publicado no blog oficial da Anthropic.
Como funcionaria a pausa na IA?
A Anthropic sugere um modelo de acordo global similar aos tratados internacionais que regulam o uso de armas nucleares. A complexidade reside em garantir que nenhuma empresa concorrente continue o desenvolvimento em segredo durante o período de paralisação. Para isso, a proposta inclui um rigoroso sistema de verificações, onde as próprias corporações realizariam auditorias físicas e de software nos data centers umas das outras.
A empresa reconhece que o treinamento de IA ocorre em hardware de uso geral, tornando o desenvolvimento secreto uma possibilidade. O incentivo financeiro para violar um acordo silenciosamente é gigantesco, pois quem avançar em segredo pode conquistar a liderança de um mercado trilionário. A Anthropic busca, contudo, estabelecer um mecanismo de confiança e fiscalização mútua.
Apelo por pausa já ocorreu anteriormente
Este não é o primeiro apelo por uma desaceleração no desenvolvimento da IA. Em 2023, o Future of Life Institute, uma ONG focada em riscos tecnológicos, publicou uma carta aberta solicitando uma pausa de pelo menos seis meses nos experimentos com grandes modelos de IA. O documento, que alertava para efeitos potencialmente catastróficos, reuniu milhares de assinaturas, incluindo a de Elon Musk.
No entanto, o pedido não surtiu efeito significativo na indústria. Críticos da época apontaram a perda de competitividade como a principal barreira, argumentando que empresas americanas desacelerando seus projetos beneficiariam rivais de outros países, como a China. A Anthropic, ao propor seu novo manifesto, ecoa essas preocupações e busca encontrar soluções para superá-las.
Anthropic mantém ritmo acelerado apesar do alerta
Curiosamente, enquanto defende publicamente uma pausa, a própria Anthropic mantém um ritmo agressivo de pesquisa e desenvolvimento. Recentemente, a empresa revelou seu novo modelo, o Mythos, que possui impressionante capacidade de detectar e explorar vulnerabilidades de segurança cibernética. Este lançamento ocorre em paralelo aos preparativos da empresa para sua oferta pública inicial de ações (IPO).
A dualidade entre o discurso de cautela e a prática de desenvolvimento acelerado levanta questões sobre a viabilidade e a real intenção por trás da proposta de pausa. A empresa argumenta que a necessidade de debater as implicações da IA é urgente, mesmo que suas próprias operações continuem a expandir os limites da tecnologia.