Régulièrement vilipendé pour laisser passer trop de messages haineux et racistes, Facebook modifie actuellement ses algorithmes pour réprimer plus sévèrement les insultes contre les minorités.
Une fois la modification achevée, Facebook cessera de retirer systématiquement les attaques contre les personnes d’origine caucasienne, les hommes ou les Américains.
Cette évolution tranche avec la politique habituelle du réseau social, qui ne souhaite en général pas distinguer entre les genres ou les ethnicités.
Mais le groupe a réalisé « que les discours de haine visant les groupes sous-représentés peuvent être les plus dangereux« , a souligné un porte-parole du réseau social.
« C’est pourquoi nous avons modifié notre technologie pour la concentrer sur les propos que les utilisateurs et les experts nous disent être les plus graves« , comme ceux visant à déshumaniser ou à mépriser une certaine catégorie de personnes, a-t-il précisé.
Contre l’antisémitisme
Le groupe a aussi actualisé ses pratiques pour être plus vigilant face à l’expression implicite de propos haineux.
Il s’agit-là des messages sur la pratique du « blackface » qui consiste pour des personnes caucasiennes à se noircir le visage afin de se moquer des personnes noires. Il s’agit aussi des stéréotypes suggérant que les Juifs contrôlent le monde.
Le président de l’organisation américaine de lutte contre l’antisémitisme ADL a salué « une étape importante et attendue depuis longtemps« . Dans ce sens, il estime que c’est aussi une reconnaissance implicite par le groupe de l’insuffisance de ses efforts passés.
« Même si nous nous réjouissions que Facebook s’attaque aux symptômes les plus sérieux de la maladie qu’il a laissée se propager pendant tellement d’années, il faut continuer à travailler pour guérir la maladie de la haine sur les réseaux sociaux« , a souligné Jonathan Greenblatt.
Facebook emboîte le pas à Twitter
Twitter, qui possède sa propre politique de lutte contre les contenus abusifs et nocifs, s’est aussi engagé dans une voie similaire.
Ce réseau social américain a annoncé mercredi vouloir interdire toute publication cherchant à déshumaniser selon des critères raciaux, ethniques ou de nationalité.
Parallèlement au développement de systèmes de modération automatique plus sensibles aux discours contre les minorités, Facebook a cessé d’utiliser d’autres algorithmes.
Il s’agit, en l’occurrence, de ceux recherchant de façon pro-active certaines attaques contre les personnes caucasiennes, les Américains et les hommes.
Mais, le groupe pourra toujours retirer des posts comme « les Américains sont stupides » ou « les hommes sont des imbéciles » si ils lui sont signalés.
Facebook veut juste écarter l’idée qu’il censure plus facilement des propos jugés moins nocifs que des attaques racistes, comme des commentaires désobligeants sur la gent masculine après une rupture amoureuse.
Vous pourrez aimer: Londres lance un code de conduite visant Google et Facebook
Concentration sur les contenus malveillants
Selon le Washington Post, le réseau social veut se concentrer sur les contenus malveillants à l’encontre des personnes noires, des métisses, des musulmans, des Juifs, et des membres de la communauté LGBTQI.
Le quotidien, qui a le premier rapporté l’évolution de la politique de Facebook jeudi, indique que l’entreprise de Mark Zuckerberg maîtrise depuis des années le retrait automatique de certains contenus, liés à la pornographie ou au terrorisme par exemple.
La propagation de la haine en ligne est plus compliquée à gérer, les machines ayant du mal à faire la différence entre les informations, l’humour, les parodies, les rumeurs et les insultes.
Résultat: Facebook a tendance à enlever plus facilement des contenus problématiques à l’encontre de personnes d’origine caucasienne et à signaler plus souvent des posts de minorités visibles, selon le Washington Post.
La plateforme assure avoir engagé l’évolution de sa politique de modération dès 2019.
Une telle initiative pourrait être mal reçue de la part d’une partie des utilisateurs, à droite notamment, qui considèrent déjà que les réseaux sociaux désavantagent les messages conservateurs.
Facebook sur la sellette
Mais comme d’autres grands réseaux sociaux, Facebook est aussi régulièrement attaqué par les organisations de défense des droits civiques qui lui reprochent de ne pas agir suffisamment pour lutter contre les propos incitant à la haine.
Ces griefs ont pris encore plus d’importance cette année après la mort de l’Afro-Américain George Floyd. Le groupe a fait face cet été à une campagne de boycott de la part de plusieurs grands groupes.
Les plus critiques estiment que les réseaux sociaux devraient être tenus pour responsables des appels à la haine lancés sur les réseaux sociaux.
Certains analystes soulignent toutefois que les plateformes ne peuvent pas porter la responsabilité de problématiques sociales profondes.