Instagram Luta Contra Deepfakes: Adam Mosseri Confessa Desafios e Falta de Solução
O Instagram, principal plataforma visual do mundo, enfrenta um dilema crescente: como combater o uso de deepfakes criados por inteligência artificial para reproduzir conteúdo original de criadores. A preocupação é tamanha que o próprio chefe da rede social, Adam Mosseri, admitiu publicamente que a empresa ainda não possui uma solução eficaz para o problema.
A situação tem sido um ponto de atenção para muitos criadores de conteúdo, que veem seu trabalho sendo replicado por perfis que utilizam avatares e vozes geradas por IA. Esses perfis não apenas copiam o conteúdo, mas muitas vezes o utilizam para direcionar tráfego para outras plataformas, como o OnlyFans, gerando receita a partir do trabalho alheio.
Mosseri reconheceu estar “muito preocupado” com a proliferação desses deepfakes, mas descartou a ideia de uma proibição geral de conteúdos produzidos com inteligência artificial. A complexidade da tecnologia e a dificuldade em distinguir o que é nocivo do que não é, tornam essa medida inviável no momento, conforme relatado pelo jornal britânico The Independent.
Deepfakes em Alta: Comediantes e Dançarinos são Alvos
O problema ganhou destaque com casos como o do comediante George Brett Olson. Ele descobriu uma conta com mais de 300 mil seguidores que utilizava um deepfake com um avatar feminino para reproduzir uma de suas apresentações. O vídeo mantinha o áudio e o texto originais, mas a imagem era completamente alterada pela IA, direcionando usuários para uma página no OnlyFans.
Outros segmentos também sofrem com a prática. Dançarinos veem suas coreografias sendo replicadas por personagens de IA. Perfis como o que reproduziu a apresentação de Olson, e outro citado pela comediante Julia Jasunas, que reunia cerca de 250 mil seguidores, ilustram a escala do problema e o potencial de monetização ilícita.
Instagram Busca Soluções, Mas Proibição Geral é Descartada
Em resposta direta às preocupações dos criadores, Adam Mosseri afirmou que a Meta, empresa controladora do Instagram, está avaliando formas de direcionar mais tráfego aos autores originais. A ideia é encontrar mecanismos para que o público chegue até quem de fato produziu o conteúdo, em vez de consumir as cópias geradas por IA.
Mosseri explicou que uma proibição ampla de conteúdo de IA não seria prática, pois “vai ficar cada vez mais difícil de identificar, e nem todo conteúdo é ruim, embora haja muito lixo”. A plataforma precisa, portanto, focar em como lidar com cópias integrais de produções originais, um desafio que exigirá novas abordagens.
Desafios no Sistema de Denúncias e o Futuro da IA no Instagram
O sistema de denúncias do Instagram também se mostra um obstáculo. Embora exista a opção de reportar violações de direitos autorais, o mecanismo nem sempre é suficiente para resolver os casos de deepfakes. Mosseri apontou que muitos criadores podem não ter tomado medidas formais para proteger seus trabalhos, o que dificulta a ação da plataforma.
A rede social busca uma maneira de ajudar esses criadores sem permitir que agentes mal-intencionados façam mais denúncias falsas, algo que, segundo o executivo, “acontece o tempo todo”. A busca por um equilíbrio entre a proteção de direitos autorais e a prevenção de abusos no sistema de denúncias é crucial.
O Instagram já havia sinalizado que conteúdos gerados por inteligência artificial não deveriam aparecer para usuários que não demonstrassem interesse por eles. No entanto, a empresa negou que os usuários devessem ter controle total para bloqueá-los, deixando a cargo do algoritmo a curadoria, o que adiciona mais uma camada de complexidade à gestão do conteúdo de IA na plataforma.