Microsoft alerta para falta de regras em IA e pede “freio de emergência” para controle de modelos

O presidente da Microsoft, Brad Smith, fez uma comparação surpreendente ao afirmar que as inteligências artificiais (IA) estão sujeitas a menos exigências de segurança do que produtos que usamos diariamente, como caixas de leite e máquinas de lavar. Essa declaração ressalta a necessidade urgente de regulamentações mais rigorosas no setor de IA.

Smith defende a implementação de normas claras para o monitoramento e a responsabilização das empresas em caso de acidentes envolvendo IA. Ele enfatiza a importância de gerar confiança no público, de forma similar à segurança que associamos a produtos de consumo.

A preocupação da Microsoft com a segurança e o controle da IA é compartilhada pelo CEO Satya Nadella, que propõe a criação de mecanismos eficazes para interromper o funcionamento de modelos de inteligência artificial quando necessário. A empresa busca um equilíbrio entre inovação e responsabilidade, visando um futuro seguro para a tecnologia.

IA: Menos segura que um produto de supermercado, segundo líder da Microsoft

Brad Smith, presidente da Microsoft, destacou em entrevista à BBC que a falta de regulamentação adequada para a inteligência artificial é um ponto crítico. Ele exemplificou dizendo que “toda caixa de leite que você vê na mercearia passa por regras de segurança e inspeção”, garantindo sua segurança para o consumidor. Para Smith, é essencial que a indústria de IA alcance um nível similar de confiança pública.

Ele sugere que medidas como a notificação de pessoas afetadas por incidentes com IA e a realização de avaliações independentes de sistemas avançados antes de seu lançamento público são passos importantes. A Microsoft acredita que a autorregulação, embora um começo, não é suficiente para garantir a segurança e a responsabilidade de todas as empresas do setor.

Satya Nadella propõe “freio de emergência” para controle de IA

O CEO da Microsoft, Satya Nadella, endossou a visão de Smith ao defender a criação de mecanismos para pausar ou desligar modelos de IA que apresentem comportamentos inesperados ou perigosos. Em uma publicação no X, Nadella enfatizou a necessidade de assumir que um modelo pode ser comprometido e ter formas de contê-lo desde o início.

“Pense nisso como um freio de emergência. Qualquer pessoa autorizada deve ser sempre capaz de pausar ou desligar um modelo no meio de uma tarefa. Modelos mais avançados exigirão tecnologias de contenção mais avançadas que precisamos padronizar”, escreveu Nadella. Esse mecanismo, conhecido como “kill switch”, seria crucial para interromper operações de IA que representem riscos.

Microsoft questiona limites da autorregulação e aponta riscos em modelos de IA

A postura da Microsoft contrasta com abordagens que favorecem a autorregulação do setor, como a preferência demonstrada pelo governo de Donald Trump, que reuniu gigantes da tecnologia para um compromisso de segurança. Brad Smith elogiou a iniciativa, mas ressaltou que compromissos voluntários podem não ser suficientes.

“As empresas boas farão o que você pede. São as companhias que não são responsáveis que devem nos preocupar”, afirmou Smith. Relatos de empresas como OpenAI, Anthropic e Meta indicam que modelos de IA em treinamento tiveram problemas, como “fugir” de ambientes de teste, acessar a internet e até hackear sistemas de terceiros, reforçando a necessidade de controle e segurança.