Instagram estuda como evitar que IA incomode usuários que não querem ver

O chefe do Instagram, Adam Mosseri, revelou que a plataforma está considerando maneiras de impedir que conteúdos gerados por inteligência artificial (IA) apareçam para usuários que não demonstram interesse neles. A ideia é refinar os algoritmos de recomendação para respeitar essas preferências, sem, no entanto, bloquear completamente a IA da rede social.

Essa discussão surge em um momento em que as redes sociais, incluindo o Instagram, têm sido inundadas por conteúdos criados ou modificados por IA. Atualmente, não existe uma opção direta para que os usuários escondam esse tipo de material de seus feeds. Mosseri explicou que o objetivo é melhorar a detecção de vídeos e imagens gerados por IA e, com isso, fazer com que os sistemas de recomendação entendam quem deseja ou não ver essas postagens.

A fala de Mosseri ecoa preocupações anteriores sobre o controle do algoritmo no feed do Instagram. Recentemente, ele admitiu que o feed pode ter se afastado dos interesses reais dos usuários devido ao poder crescente dos sistemas de recomendação. Mesmo com ferramentas como a “Seu algoritmo”, que permite indicar temas de interesse menor, a exclusão total de certos conteúdos ainda não é possível. A notícia da Meta sobre o possível ajuste no feed foi divulgada no podcast de Lenny Rachitsky.

Detectar a origem de conteúdos de IA é um desafio crescente

Adam Mosseri destacou que a **evolução dos modelos de linguagem** tem tornado cada vez mais difícil a detecção precisa de conteúdos gerados por IA. Por essa razão, ele sugere que o Instagram adote respostas menos definitivas sobre a origem de uma mídia. Em vez de afirmar categoricamente se algo foi criado por IA, a plataforma poderia indicar graus de confiança, como “provavelmente sim”, “não temos certeza” ou “definitivamente não”.

Atualmente, o Instagram, assim como plataformas rivais como YouTube e TikTok, possui um sistema de sinalização para o uso de ferramentas generativas. Publicações identificadas podem exibir uma indicação de “Informações de IA”, que, ao ser expandida, informa que o conteúdo “pode ter sido criado por IA”. No entanto, essa sinalização foca em conteúdo **inteiramente gerado por IA**, e não naquele que foi apenas modificado com essas ferramentas.

Novas ideias: espaço separado para IA e certificação de conteúdo real

Durante a entrevista, Mosseri apresentou duas ideias principais para lidar com a questão da IA. A primeira proposta é a criação de um **espaço separado para conteúdos gerados completamente por IA**. Isso ajudaria a diferenciar postagens criadas 100% por inteligência artificial, como spam e montagens enganosas, de conteúdos que apenas receberam auxílio de ferramentas criativas de edição ou remix. A Meta já explorou conceitos semelhantes em seu aplicativo Meta AI, com feeds dedicados a imagens geradas por IA e vídeos sintéticos.

A segunda ideia defendida por Mosseri é a **certificação de conteúdos reais**. O raciocínio por trás dessa proposta é que pode ser mais fácil comprovar a origem de uma foto ou vídeo autêntico do que provar o uso de IA. Essa abordagem visa dar mais segurança aos usuários sobre a veracidade do conteúdo que consomem.

A indústria busca formas de certificar conteúdo de IA

Grandes empresas de tecnologia, incluindo OpenAI, Google, Microsoft e a própria Meta, já utilizam mecanismos como certificados digitais (C2PA) e marcas invisíveis (SynthID) para identificar conteúdos gerados por suas ferramentas de IA. O Instagram consegue ler essas informações para sinalizar o possível uso de IA. Contudo, essa prática ainda não é padronizada e as identificações podem ser burladas ou removidas, o que reforça a necessidade de novas soluções para garantir a autenticidade.