OpenAI implementa marca-d’água invisível no ChatGPT para identificar conteúdo gerado por IA
A OpenAI anunciou a chegada de uma nova tecnologia chamada textGrain, que funciona como uma marca d’água invisível em textos gerados pelo ChatGPT e pelo Codex. O objetivo principal é facilitar a identificação de conteúdo produzido por inteligência artificial, um passo importante para se adequar à legislação europeia.
Essa novidade, por enquanto, está restrita aos usuários localizados na União Europeia. A empresa já havia sinalizado o desenvolvimento de um método de marca d’água em 2024, mas sua implementação em larga escala para textos só agora se concretiza, impulsionada pela necessidade de conformidade com a Lei de Inteligência Artificial da União Europeia (EU AI Act).
O EU AI Act exige que empresas que oferecem serviços de IA generativa, em qualquer formato, implementem mecanismos para que o conteúdo sintético seja identificável por ferramentas de verificação. A OpenAI optou por usar o textGrain como sua solução para atender a essa exigência, embora a marca d’água em si não seja obrigatória, mas sim o método escolhido pela empresa.
Como funciona a marca d’água textGrain no ChatGPT
O textGrain é descrito pela OpenAI como um “sinal estatístico invisível”. Em vez de adicionar caracteres ou espaços imperceptíveis, a tecnologia realiza ajustes sutis na forma como o modelo de IA escolhe as palavras. Essas alterações estatísticas visam não comprometer a qualidade do texto final, garantindo que a leitura permaneça fluida e natural.
Nas próximas semanas, a marca d’água será ativada por padrão para todos os usuários do ChatGPT e Codex na União Europeia, independentemente do plano de assinatura. Essa implementação visa garantir que o conteúdo gerado dentro da região seja facilmente rastreável como proveniente de IA.
Acesso global e limitações da tecnologia
Apesar da ativação inicial ser focada na União Europeia, a OpenAI disponibilizará o textGrain para desenvolvedores em todo o mundo através da sua API. Isso significa que outras aplicações poderão integrar essa funcionalidade para marcar seus próprios conteúdos gerados por IA, expandindo o alcance da tecnologia.
No entanto, a própria OpenAI alerta para algumas limitações importantes. A marca d’água pode ser “enfraquecida” caso o texto seja editado posteriormente ou em certos tipos de conteúdo. Além disso, a detecção pode se tornar imprecisa em textos mais curtos, o que representa um desafio para a confiabilidade em todas as situações.
O que o textGrain não faz
É crucial entender que o textGrain possui restrições claras quanto ao que pode e não pode fazer. A tecnologia não identifica o usuário que solicitou a geração do texto, ou seja, não há rastreabilidade individual. Tampouco tem a capacidade de validar a veracidade ou a precisão das informações apresentadas no conteúdo gerado.
Adicionalmente, a marca d’água não mede a proporção de trabalho humano envolvido em um texto que passou por edições. Essa clareza sobre as funcionalidades e limitações é essencial para o uso responsável e a compreensão do papel do textGrain na identificação de conteúdo de IA.