Anthropic aciona polícia após ameaças de ataque em conversa com IA Claude

A empresa de inteligência artificial Anthropic tomou uma atitude drástica ao denunciar uma usuária à polícia após identificar ameaças de um ataque em andamento durante uma conversa com seu chatbot, Claude. O incidente levou à prisão de Carli Michelle Heller, na Flórida, sob a acusação de fazer uma ameaça eletrônica de violência, um crime sério segundo a legislação local.

O caso levanta importantes questões sobre a privacidade de dados em interações com inteligência artificial e a responsabilidade das empresas em monitorar conteúdos potencialmente perigosos. A rápida ação da Anthropic demonstra um protocolo de segurança robusto, mas também sinaliza que plataformas de IA podem não garantir a confidencialidade total das informações trocadas por seus usuários.

Conforme informações divulgadas, Heller teria detalhado em 26 de setembro seus planos de atacar o escritório do xerife local e, no dia seguinte, mencionou a aquisição de uma nova arma. Essas mensagens foram captadas pelos sistemas de segurança automatizados da Anthropic e, após revisão humana, foram comunicadas às autoridades competentes. A legislação da Flórida, em seu Estatuto 836.10, prevê punições severas para quem transmitir ameaças escritas ou eletrônicas de morte, violência, tiroteio em massa ou atos terroristas.

Monitoramento e Segurança em Plataformas de IA

O sistema da Anthropic é projetado para monitorar conversas em busca de expressões e conteúdos que possam indicar risco. Quando uma mensagem é classificada como potencialmente grave, ela é encaminhada para uma análise mais detalhada por uma equipe humana. Essa abordagem proativa visa prevenir incidentes de segurança antes que se concretizem.

Em sua documentação oficial, a Anthropic declara que pode compartilhar dados com autoridades em situações de emergência, especialmente quando há necessidade de evitar risco de morte ou ferimentos físicos graves. Essa política de cooperação com as autoridades é crucial em casos que envolvem ameaças diretas à segurança pública.

Privacidade e Limites da IA

O incidente com Carli Michelle Heller ressalta que, apesar de os chatbots como o Claude serem ferramentas úteis para conversas pessoais e registro de pensamentos, eles não operam sob os mesmos princípios de sigilo profissional de um psicólogo ou advogado. O histórico de conversas pode ser acessado por mecanismos de segurança e, como demonstrado, pode ser compartilhado com as autoridades em circunstâncias específicas.

Sam Altman, CEO da OpenAI, já havia alertado anteriormente que chatbots não possuem as mesmas garantias de confidencialidade. A capacidade dessas plataformas de monitorar e reportar conteúdos perigosos é uma área em evolução, com empresas de IA buscando equilibrar a segurança dos usuários com a proteção de dados pessoais.

Casos Anteriores e a Tolerância Zero com Crimes

A denúncia da Anthropic pode indicar uma postura cada vez mais rigorosa por parte dos laboratórios de IA em relação a conteúdos criminosos em suas plataformas. Isso pode ser uma resposta a casos anteriores onde empresas enfrentaram ações legais após crimes terem sido cometidos, mesmo com alertas prévios.

Um caso notório envolveu a OpenAI, que não acionou a polícia após identificar conversas sobre violência armada entre uma adolescente e sua IA. Posteriormente, a empresa foi processada após a consumação do crime, o que pode ter influenciado a abordagem mais cautelosa da Anthropic neste incidente recente.