Google Earth remove IA de geração de imagens após polêmica com fake news

O Google tomou uma atitude drástica e removeu o recurso de inteligência artificial (IA) para criação de imagens no Google Earth, lançado um dia antes, nesta sexta-feira (31/07). A ferramenta, que permitia gerar cenários realistas a partir de imagens de satélite, foi alvo de intensas críticas.

Em menos de 24 horas após sua introdução, usuários e especialistas demonstraram como a IA podia ser utilizada para criar imagens falsas de desastres, ataques e outros eventos fictícios. Essa capacidade levantou sérias preocupações sobre o potencial de disseminação de fake news e campanhas de desinformação.

O Google reconheceu o problema, afirmando que, embora o recurso tivesse usos legítimos para profissionais da área geoespacial, também foi utilizado para gerar conteúdos que violavam suas políticas. A empresa busca agora desenvolver restrições mais eficazes para evitar abusos, conforme informado em sua conta no X (antigo Twitter).

Facilidade em criar desinformação gerou avalanche de críticas

A simplicidade com que a IA do Google Earth permitia a criação de imagens chocantes e convincentes foi o principal motivo para a onda de críticas. Especialistas em segurança da informação e veículos de imprensa rapidamente demonstraram o potencial destrutivo da ferramenta.

O site 404 Media, por exemplo, conseguiu gerar falsas imagens de acampamentos de pessoas em situação de rua em Los Angeles e até mesmo simular manifestantes em frente à sede do Google. Esses exemplos ilustraram a facilidade com que a IA poderia ser usada para manipulação.

O pesquisador de segurança Henk van Ess compartilhou resultados semelhantes, relatando ter criado imagens de refugiados na fronteira com o México, uma usina nuclear no Irã e um acidente de trânsito em Amsterdã, todas baseadas em imagens de satélite reais. Ele questionou a decisão do Google em lançar tal ferramenta sem salvaguardas robustas.

BBC também demonstrou o poder de criação da IA

A BBC também realizou testes com a ferramenta, produzindo imagens impactantes como a Torre Eiffel em colapso, um buraco engolindo a Grande Pirâmide de Gizé e tanques russos na capital ucraniana. Esses exemplos reforçaram o temor de que a IA pudesse ser usada para criar narrativas falsas em momentos de crise ou conflito.

Google prometeu restrições mais eficazes após remover a IA

Inicialmente, o Google havia declarado que levava a desinformação a sério e que todas as imagens geradas possuíam uma marca d’água digital chamada SynthID, identificável pelo Gemini ou Lens. No entanto, essa medida não se mostrou suficiente para conter o uso indevido da ferramenta, levando à sua remoção temporária.

A empresa afirmou que as imagens geradas não eram visíveis para outros usuários e que a marca d’água SynthID visava garantir a autenticidade. Contudo, a rapidez com que a IA foi desativada demonstra a gravidade das preocupações levantadas e a necessidade de o Google repensar suas estratégias de segurança para ferramentas de IA generativa.

A decisão do Google de retirar o recurso após apenas um dia de operação é um sinal claro dos desafios que a inteligência artificial generativa apresenta. A empresa agora se compromete a desenvolver mecanismos de controle mais eficazes para evitar que suas tecnologias sejam exploradas para fins maliciosos e para manter a confiança dos usuários em suas plataformas de visualização global.