Facebook s’excuse après avoir confondu des personnes noires avec des singes
Un algorithme de recommandation du réseau social a demandé à des utilisateurs s’ils souhaitaient voir d’autres «vidéos sur les primates » sous une vidéo montrant des personnes noires. Facebook présente ses s’excuses.
L’affaire suscite un tollé sur les réseaux sociaux. Un algorithme de recommandation de Facebook a demandé à des utilisateurs s’ils souhaitaient voir d’autres « vidéos sur les primates » sous une vidéo d’un tabloïd britannique montrant des personnes noires, a révélé ce vendredi le New York Times.
« Nous présentons nos excuses à quiconque a vu ces recommandations insultantes », a réagi une porte-parole de Facebook après ces révélations, assurant que le groupe californien avait désactivé l’outil de recommandation sur ce sujet « dès que nous nous sommes aperçus de ce qui se passait afin d’enquêter sur les causes du problème et empêcher que cela ne se reproduise ».
« Voir plus de vidéos sur les primates ? »
La vidéo du Daily Mail, vieille de plus d’un an, est intitulée « un homme blanc appelle les flics contre des hommes noirs à la marina ». Elle ne montre que des personnes, pas de singes. En dessous, la question « voir plus de vidéos sur les primates ? » avec les options « Oui/Rejeter » s’est affichée sur l’écran de certains utilisateurs, d’après une capture d’écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux.
« C’est scandaleux », a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l’affaire.
« Nos systèmes d’intelligence artificielle ne sont pas parfaits »
« Même si nous avons amélioré nos systèmes d’intelligence artificielle, nous savons qu’ils ne sont pas parfaits et que nous avons des progrès à faire », a déclaré la porte-parole de Facebook.
L’affaire souligne les limites des technologies d’intelligence artificielle, régulièrement mise en avant par la plateforme dans ses efforts pour construire un fil personnalisé à chacun de ses près de 3 milliards d’utilisateurs mensuels. Elle s’en sert aussi beaucoup dans la modération des contenus, pour identifier et bloquer des messages et images problématiques avant même qu’ils ne soient vus.
Mais Facebook, comme ses concurrents, est régulièrement accusé de ne pas lutter suffisamment contre le racisme et d’autres formes de haine et de discriminations.
