La pandémie Covid-19, a restreint les capacités humaines du réseau social Facebook quant à la modération des contenus sur ses plateformes. C’est pourquoi il a de plus en plus recours à l’intelligence artificielle, y compris pour détecter les « memes » porteurs de messages de haine.
Sur une photo de pierres tombales fleuries, un message s'affiche en lettres capitales: "Toutes les personnes de ton groupe ethnique - devraient se trouver ici": ce "meme" est donné en exemple par le réseau social pour illustrer la difficulté de sa tâche.
Si l'algorithme comprend uniquement les mots, le message est ambigu. Associé à la photo, le message relève clairement de la haine et contrevient aux règles de la plateforme.
"L'IA détecte désormais, de façon proactive, 89% des contenus haineux que nous retirons, contre 80% au trimestre précédent", indique un communiqué du groupe américain publié mardi. "Rien qu'au premier trimestre 2020, nous avons agi sur 9,6 millions de contenus qui enfreignaient nos règles en la matière, soit 3,9 millions de plus".
Les équipes du réseau social ont mis une base de données de 10.000 memes à disposition de chercheurs, pour qu'ils développent des algorithmes capables de repérer les messages problématiques.
