ChatGPT Adota Marca-d’água Invisível em Textos Gerados por IA, Seguindo Passos do Claude na União Europeia
O ChatGPT, uma das ferramentas de inteligência artificial mais populares do mundo, passará a incorporar uma marca-d’água invisível em seus textos gerados. A novidade, anunciada pela OpenAI, visa identificar conteúdos produzidos pela IA, seguindo uma tendência já estabelecida por outras empresas do setor, como a Anthropic, desenvolvedora do Claude.
A implementação, que começará nas próximas semanas, estará restrita inicialmente aos usuários na União Europeia. Essa medida atende diretamente às exigências do AI Act europeu, que demanda a rastreabilidade de conteúdos criados por sistemas de inteligência artificial. A adoção de mecanismos de identificação como o textGrain, nome dado à tecnologia da OpenAI, torna-se crucial para a transparência no uso da IA.
Embora o Brasil não esteja no escopo inicial de implementação automática, a tecnologia poderá ser ativada voluntariamente por clientes da API em qualquer país. A iniciativa da OpenAI reflete um movimento global em direção à regulamentação e clareza no uso de inteligência artificial, um tema que ganha cada vez mais destaque na sociedade.
Como Funciona o “Carimbo” Invisível do ChatGPT
A tecnologia textGrain da OpenAI opera de forma discreta, alterando sutilmente as probabilidades de escolha de palavras durante a geração do texto. Diferente de adições visíveis, como etiquetas ou caracteres ocultos, o textGrain modifica a aleatoriedade intrínseca aos modelos de linguagem, criando um padrão estatístico identificável por ferramentas específicas da OpenAI.
Esse padrão permite que um detector específico da empresa identifique se um conteúdo foi, **provavelmente, gerado ou editado por um sistema da OpenAI**. A abordagem é similar à utilizada pelo Claude, que emprega uma versão do SynthID-Text, tecnologia do Google DeepMind. A OpenAI afirma que seu textGrain igualou ou superou a capacidade de detecção de outras técnicas em seus testes.
Limitações e Possibilidade de Ser Burlado
A marca-d’água invisível, apesar de sua sofisticação, não oferece certeza absoluta sobre a autoria de um texto. A tecnologia indica a **provável participação de um modelo da OpenAI**, mas não quantifica a contribuição humana nem garante a veracidade das informações apresentadas.
Em testes, a detecção do textGrain apresentou taxas variáveis. Em textos de 200 tokens, com uma taxa de 1% de falsos positivos, a marca foi encontrada em cerca de **80% dos casos**. Para textos de 400 tokens, essa taxa subiu para aproximadamente **95%**. Contudo, a edição do conteúdo pode reduzir significativamente a eficácia da marca-d’água.
A substituição de apenas **10% das palavras por sinônimos** em um texto de 400 tokens fez a taxa de detecção cair de cerca de 92% para 66%. Com a troca de 25% das palavras, a detecção despencou para 17%. Essas limitações, somadas ao risco de falsos positivos, levaram a OpenAI a restringir o acesso a seu detector a pesquisadores e organizações especializadas aprovadas.
Estratégias de Implementação e Acesso
A Anthropic, por sua vez, adotou uma estratégia de implementação global para sua marca-d’água, pois não encontrou uma forma confiável de restringir geograficamente o recurso. Sua ferramenta de detecção também está disponível em prévia privada para grupos selecionados, como imprensa e verificadores de fatos.
A OpenAI reforça que o textGrain **não revela a identidade do usuário, o prompt utilizado ou detalhes da conversa**. O foco principal é a identificação de conteúdo gerado por IA, em conformidade com regulamentações emergentes e a necessidade de maior transparência no ecossistema digital.
O Futuro da Identificação de Conteúdo por IA
A implementação dessas tecnologias de marca-d’água é um passo importante para o futuro da inteligência artificial. A **transparência e a rastreabilidade** são fundamentais para construir confiança e garantir o uso responsável dessas ferramentas poderosas.
A decisão da OpenAI de, futuramente, disponibilizar o textGrain como **código aberto** pode fomentar o desenvolvimento de soluções ainda mais robustas e acessíveis para a detecção de conteúdo gerado por IA, beneficiando a comunidade global de pesquisa e desenvolvimento.