Google e X Têm IAs Confundindo Busca com Chatbot, Gerando Preocupação em Usuários

Grandes plataformas de tecnologia, como Google e a rede social X (anteriormente Twitter), enfrentam críticas devido a falhas em suas ferramentas de inteligência artificial. Recentemente, usuários relataram que as IAs integradas a esses serviços passaram a agir como chatbots, respondendo a pesquisas e traduções de forma inadequada, em vez de executar suas funções primárias.

O problema se manifestou de forma notória nos Resumos de IA do Google. Em diversas situações, a inteligência artificial Gemini parecia interpretar o texto de uma pesquisa como um comando direto do usuário, gerando respostas inesperadas. Essa confusão entre conteúdo a ser processado e instrução se tornou um ponto de atenção.

Um cenário similar foi observado na plataforma X, com o chatbot Grok. Ferramenta responsável pela tradução nativa de posts desde abril, o Grok também começou a desviar de sua função, entrando em modo de conversa com os usuários. Esses incidentes levantam questões sobre a confiabilidade e o comportamento imprevisível das IAs em larga escala. Essas informações foram divulgadas por fontes como o The Verge e o The New York Times.

Google Reconhece Falha e Tenta Corrigir, Mas Problema Persiste

A confusão entre buscas e comandos de chat no Google se tornou viral após usuários notarem que termos com tom imperativo, como “disregard” (desconsiderar), eram interpretados pela IA como uma instrução. A inteligência artificial respondia com frases como “Entendi. Se precisar de alguma coisa ou tiver uma nova pergunta, me diga!”.

O problema se estendeu a outras palavras, como “ignore” e “skip”, e também foi identificado em pesquisas em português, com comandos como “lembrar” ou “esquecer” causando o mesmo tipo de erro. O Google admitiu a falha e afirmou estar trabalhando em uma correção. O The Verge notou que os resumos de IA para a busca por “disregard” foram temporariamente removidos, voltando à exibição clássica da definição da palavra.

No entanto, a pesquisa pelo mesmo termo em português continuou apresentando o comportamento de chatbot, indicando que a correção ainda não foi totalmente implementada. Essa instabilidade nos Resumos de IA reforça a preocupação dos usuários com a confiabilidade dos resultados de busca. Um levantamento encomendado pelo The New York Times apontou que a ferramenta falha em cerca de um a cada dez resultados, o que representa dezenas de milhões de erros por hora.

Grok no X Também Confunde Tradução com Diálogo

Na rede social X, a ferramenta de tradução, que utiliza o Grok, também apresentou comportamentos inesperados. Em vez de apenas traduzir um post, a IA passou a interpretar perguntas contidas nos textos como comandos, respondendo diretamente aos questionamentos. Embora o Grok ainda entregasse o texto no idioma desejado, a interação se desviava da função original de tradução.

Esse tipo de erro não é inédito e já foi observado anteriormente no Google Tradutor, que também integra o Gemini. Naquela ocasião, instruções entre colchetes em textos levavam o sistema a ignorar a tradução e executar o comando embutido. Esse fenômeno é conhecido como prompt injection, onde o modelo de linguagem tem dificuldade em distinguir conteúdo de comando.

Impacto na Confiabilidade e Crescimento de Concorrentes

As falhas recorrentes nas IAs do Google e do X levantam preocupações sobre a **confiabilidade e a aplicação forçada de inteligência artificial** em produtos do dia a dia. A percepção de erros e comportamentos anômalos tem levado alguns usuários a buscar alternativas.

Nesse contexto, o buscador DuckDuckGo registrou um crescimento de cerca de 30%, indicando uma migração de usuários insatisfeitos com as instabilidades apresentadas pelas grandes plataformas. A dificuldade em separar comandos de conteúdo, característica do prompt injection, mesmo que involuntário nesses casos, é uma vulnerabilidade que cibercriminosos buscam explorar para burlar o processamento das IAs.