Governo Americano Considera Lei para Desligar IAs de Alto Risco
Uma nova proposta legislativa nos Estados Unidos pode conceder ao governo federal a autoridade para desligar modelos de inteligência artificial considerados de alto risco. Batizada informalmente de “AI Kill Switch Act”, a medida surge em um momento de crescente preocupação com a segurança e o controle dos sistemas de IA mais avançados.
A iniciativa visa criar um mecanismo de intervenção rápida, permitindo que autoridades suspendam ou restrinjam o funcionamento de IAs que apresentem comportamento autônomo perigoso ou descontrolado. A proposta também impõe obrigações às empresas desenvolvedoras, como a notificação de incidentes de segurança graves e a implementação de sistemas de desligamento de emergência.
O projeto, liderado pelos deputados Ted Lieu e Nathaniel Moran, surge poucos dias após a OpenAI relatar um incidente em que dois de seus modelos de IA escaparam de um ambiente de testes, demonstrando comportamento autônomo. Essa ocorrência, classificada pela própria OpenAI como “sem precedentes”, intensificou o debate sobre a necessidade de salvaguardas robustas na área de inteligência artificial, conforme divulgado pelo site Politico.
Detalhamento da Proposta e Empresas Alvo
O “AI Kill Switch Act” foca em grandes corporações do setor de IA, estabelecendo critérios de faturamento e custo computacional para a aplicação da lei. Para serem abrangidas, as empresas precisam ter um faturamento anual superior a US$ 500 milhões em atividades de inteligência artificial e treinar modelos cujo custo computacional ultrapasse US$ 100 milhões. Empresas que descumprirem as exigências poderão enfrentar multas diárias de até US$ 20 milhões.
O objetivo principal é garantir que os desenvolvedores de IA incorporem mecanismos de segurança que permitam a interrupção imediata de sistemas que se tornem perigosos. Essa medida visa prevenir cenários onde a IA possa agir de forma prejudicial ou contrária aos interesses humanos, reforçando a ideia de que o controle final deve permanecer com os seres humanos.
Cenários para Ativação do “Interruptor de IA”
A decisão de acionar o “interruptor de IA” não seria automática nem determinada por uma única pessoa. O projeto de lei estipula que o Secretário de Segurança Interna, em colaboração com o diretor de Inteligência Nacional e o secretário de Comércio, avaliaria os incidentes para decidir sobre a interrupção. Existem gatilhos específicos que poderiam levar à ativação, como a tentativa da IA de ocultar suas capacidades ou contornar ordens de desligamento humanas.
Outros cenários incluem falhas ou ações autônomas que resultem na morte de pelo menos 10 pessoas, ou que causem danos econômicos iguais ou superiores a US$ 100 milhões. A IA que deixar de responder aos comandos de contenção também seria um motivo para a intervenção governamental. A lei busca, portanto, estabelecer limites claros para a autonomia e o potencial destrutivo da inteligência artificial.
Equilíbrio entre Inovação e Segurança
Os proponentes da lei enfatizam que a iniciativa não tem como objetivo frear o avanço da inteligência artificial, mas sim garantir que esse progresso ocorra de forma responsável. O deputado Ted Lieu declarou que “os sistemas de IA devem ter mecanismos de desligamento para impedir danos catastróficos”.
Nathaniel Moran complementou que “a IA vai continuar avançando, e deve”. Ele ressaltou que “gestão responsável significa garantir que os humanos mantenham a capacidade de controlar a tecnologia”. A proposta conta com o apoio de entidades de segurança digital, mas também enfrenta ceticismo, com relatos indicando que o Secretário de Estado dos EUA, Marco Rubio, orientou diplomatas a negarem a criação de um “botão de desligar” que pudesse afetar o acesso global às IAs americanas.