Apple e Google são notificadas por suposto lucro com aplicativos de inteligência artificial para criação de nudes falsos.

A cidade de São Francisco, nos Estados Unidos, através de seu procurador-geral, David Chiu, enviou uma notificação judicial à Apple e ao Google. A acusação central é que ambas as gigantes da tecnologia estariam lucrando com a distribuição e venda de aplicativos que utilizam inteligência artificial para criar imagens de nudez falsas, também conhecidas como deepfakes.

O documento, que foi analisado pelo portal Wired, solicita a **remoção imediata de 13 aplicativos** com essa funcionalidade das plataformas App Store e Google Play. Segundo as autoridades, esses apps manipulam fotos de pessoas reais, simulando nudez e, com isso, facilitando abusos sexuais, assédios e a exploração indevida de imagem.

Para a procuradoria de São Francisco, essa prática pode configurar uma violação das leis da Califórnia contra a pornografia sintética não consensual. A acusação se baseia no fato de que Apple e Google receberiam comissões sobre os pagamentos realizados dentro desses aplicativos, configurando, portanto, um lucro direto com o conteúdo gerado.

Responsabilidade das plataformas em jogo

O procurador-geral David Chiu declarou enfaticamente que a geração de imagens não consensuais é “ilegal, prejudicial e totalmente inaceitável”. Ele ressaltou a **responsabilidade das empresas** em “garantir que os aplicativos em suas plataformas não facilitem o abuso sexual”, enfatizando a urgência da situação.

Um aspecto alarmante apontado pela procuradoria é que alguns desses aplicativos possuíam **classificações indicativas baixas nas lojas digitais**, chegando a serem apresentados como adequados para crianças. Essa informação levanta sérias preocupações sobre a segurança e a supervisão dos conteúdos disponibilizados nas plataformas.

Exigências e o crescimento da IA

As cartas enviadas às empresas exigem não apenas a remoção dos aplicativos identificados, mas também o **fim das relações comerciais** com os desenvolvedores responsáveis por essas ferramentas. A legislação da Califórnia, conforme destacado pelas autoridades, proíbe o suporte técnico ou financeiro a serviços dedicados à criação e venda de pornografia sintética não consensual.

Essa pressão ocorre em um momento de **crescimento exponencial das ferramentas de IA** capazes de alterar imagens com alta fidelidade. Geralmente, essas tecnologias são empregadas contra mulheres e adolescentes, utilizando fotos comuns publicadas em redes sociais como base para a criação das imagens falsas. Essa tendência já levou a investigações anteriores, como a aberta em janeiro contra a startup xAI, de Elon Musk, devido a relatos de que seu chatbot Grok auxiliava na geração de conteúdo adulto não consensual.

Posicionamento do Google e silêncio da Apple

Em resposta à notificação, o Google afirmou que sua loja de aplicativos “não permite aplicativos que contenham conteúdo sexual” e que tem tomado medidas ativas para **detectar e remover tais conteúdos**. A empresa informou ter banido centenas de aplicativos com funcionalidades semelhantes e suspendido contas de desenvolvedores e pagamentos associados a essas ferramentas.

Até o momento, a **Apple não se pronunciou oficialmente** sobre as acusações ou sobre a manutenção dos aplicativos em questão na App Store. O caso destaca a complexidade da regulamentação de novas tecnologias e a necessidade de um escrutínio mais rigoroso sobre os aplicativos disponíveis nas principais plataformas digitais para evitar a perpetuação de crimes e abusos.