25% dos Conteúdos Populares no TikTok são Gerados por Inteligência Artificial
Relatório da AI Forensics analisa prevalência de conteúdo sintético nas redes sociais e identifica lacunas na rotulagem
Um relatório da AI Forensics analisou a presença de conteúdo gerado por inteligência artificial (IA) nas pesquisas do TikTok e Instagram, identificando uma prevalência significativa e falhas na rotulagem que levantam questões sobre transparência e risco de desinformação nas redes sociais.
A investigação examinou, em Junho de 2025, os 30 principais resultados para 13 hashtags em Espanha, Alemanha e Polónia, focando-se em imagens e vídeos sintéticos apresentados na página de pesquisa, e não nos feeds personalizados.
Segundo o estudo, cerca de 25% dos principais resultados no TikTok continham conteúdo gerado por IA, enquanto no Instagram essa percentagem foi inferior a 5%. Mais de 80% dessas criações eram fotorrealistas, o que aumenta o potencial de confusão com conteúdos reais.
A diferença entre plataformas poderá estar relacionada com o funcionamento dos algoritmos e com a maior propensão do TikTok para promover vídeos curtos com elevado potencial de viralidade.
No TikTok, apenas metade dos conteúdos sintéticos apresentava rótulos, na maioria das vezes adicionados pelo próprio criador. No Instagram, apenas 23% tinham algum tipo de aviso e, na versão web, esses rótulos não apareciam. Em ambos os casos, a identificação de IA estava frequentemente escondida entre hashtags ou exigia acções adicionais para ser visualizada.
Mais de 80% do conteúdo IA no TikTok teve origem em “Agentic AI Accounts” — contas automatizadas que produzem grandes volumes de publicações para aumentar a probabilidade de viralidade. Foram identificados três perfis principais:
- Mono-Topic: focadas num único tema, como a representação caricatural de figuras públicas.
- Poly-Topic: exploram múltiplas tendências e estilos.
- Hybrid: combinam conteúdos reais e sintéticos com narrações ou imagens geradas por IA, muitas vezes em formatos sensacionalistas.
Entre as categorias identificadas estão sátiras políticas, desinformação plausível, narrativas históricas distorcidas, utilização de IA como “imagens de stock” e animações que misturam elementos reais e fictícios.
O AI Act e o Digital Services Act (DSA) da União Europeia exigem rotulagem clara de conteúdos sintéticos que possam ser confundidos com reais. Em Espanha, a falta de identificação pode levar a multas até 35 milhões de euros. O relatório conclui que as práticas actuais do TikTok e da Meta não cumprem integralmente estas exigências, nomeadamente no que diz respeito à visibilidade e consistência dos rótulos.
A ausência de rotulagem clara, segundo os investigadores, aumenta o risco de propagação de desinformação e de manipulação em larga escala, facilitada pela automação e pelo baixo custo de produção.
O fenómeno deverá intensificar-se, especialmente no TikTok e, gradualmente, também no Instagram. A evolução das capacidades da IA e a utilização de contas automatizadas podem amplificar a difusão de conteúdos manipulativos, exigindo maior fiscalização e ferramentas de detecção mais eficazes.
O relatório “AI-Generated Algorithmic Virality” foi elaborado por uma equipa multidisciplinar da AI Forensics, com financiamento de organizações internacionais, e analisou resultados de pesquisa para hashtags não relacionadas directamente com IA, de forma a medir a presença de conteúdos sintéticos em contextos gerais.
