Face à la multiplication des vidéos créées par intelligence artificielle, TikTok annonce un durcissement de ses mécanismes de détection afin de limiter la diffusion de contenus jugés répétitifs, trompeurs ou susceptibles d'altérer la confiance des utilisateurs. La plateforme prévoit de tester, dans les prochaines semaines, de nouveaux outils ciblant les comptes qui publient massivement des vidéos générées par IA sans réelle valeur ajoutée.
Cette initiative s'inscrit dans un contexte où les réseaux sociaux cherchent à préserver la qualité de l'information et de l'expérience utilisateur, alors que les contenus produits automatiquement se multiplient à grande vitesse.
Les sujets sensibles dans le viseur
Les nouveaux dispositifs de modération concerneront en priorité des thématiques considérées comme particulièrement sensibles. TikTok cite notamment les contenus liés à la politique, à l'actualité, à la santé ainsi qu'aux conseils financiers.
Selon la plateforme, ces catégories nécessitent une vigilance renforcée en raison de leur potentiel impact sur la confiance du public et sur le bien-être des utilisateurs.
Les comptes de spam ciblés
TikTok explique vouloir identifier plus efficacement les comptes spécialisés dans la diffusion de contenus générés par IA à grande échelle.
Ces profils se caractérisent notamment par la publication de vidéos standardisées, produites en série, souvent de faible qualité, ainsi que par des pratiques artificielles destinées à accroître leur visibilité, comme l'achat ou la vente d'abonnés.
L'entreprise estime que ce type de contenus nuit à la visibilité des créateurs produisant des vidéos originales et contribue à dégrader l'expérience globale sur la plateforme.
Le phénomène de l'« AI slop » prend de l'ampleur
L'essor des outils d'intelligence artificielle générative a favorisé l'apparition d'un nouveau phénomène baptisé « AI slop », expression utilisée pour désigner des contenus produits automatiquement, souvent répétitifs, peu qualitatifs ou dépourvus d'intérêt.
Au-delà de la simple recherche d'audience, ces technologies peuvent également être exploitées pour diffuser des messages militants, des contenus politiques ou encore des informations trompeuses, accentuant les défis liés à la modération des plateformes numériques.
Une stratégie qui s'inscrit dans une tendance plus large
TikTok avait déjà franchi une première étape en 2024 en introduisant un système d'identification automatique des contenus créés grâce à l'intelligence artificielle.
D'autres plateformes suivent une trajectoire similaire. Pinterest, par exemple, a mis en place des fonctionnalités permettant aux utilisateurs de filtrer une partie des contenus générés par IA.
À mesure que les technologies génératives se démocratisent, les acteurs des réseaux sociaux intensifient leurs efforts pour trouver un équilibre entre innovation, liberté de création et lutte contre les contenus susceptibles d'altérer la qualité de l'information ou l'expérience des internautes.
