Cyber-violence et invisibilisation des discours et mouvements féministes sur les réseaux sociaux.
À partir de la lecture du livre Les nouvelles lois du web. Modération et censure de Romain Badouard, publié en 2020 aux éditions du Seuil, ce billet propose une mise en perspective des discours de haine et des discours sexistes afin de comprendre les formes de cyber-violences subies par les femmes.
Romain Badouard est maître de conférences en sciences de l’information et de la communication à l’Université de Cergy Pontoise. Ses principaux objets d’étude sont la régulation et la gouvernance d’Internet ainsi que les mouvements d’opinion et les mobilisations politiques en ligne. Dans son dernier ouvrage, Les nouvelles lois du web, il présente la nécessité et les enjeux d’une régulation démocratique des contenus publiés sur Internet à travers l’étude de la modération et régulation des discours de haine et fake news sur les réseaux sociaux. L’auteur met notamment en avant une liberté d’expression contrôlée par la collaboration d’acteurs étatiques, techniques, privés et civils dont le but est de limiter les excès afin de contrer la censure privée des minorités tout en évitant une censure abusive de la part des plateformes.
Ces nouvelles formes d’encadrement des discours haineux sur les réseaux sociaux nous amènent à penser les conséquences des régulations législatives et techniques sur les discours minoritaires. Nous nous intéresserons notamment aux discours et mouvements féministes en ligne.
La législation des discours de haine et de la cyber-violence.
La lutte contre les discours de haine et les fake news sur les réseaux sociaux est devenue une problématique à l’échelle européenne. Des acteurs étatiques et civils imposent aux plateformes, par le biais de la législation, des principes de transparence de leurs méthodes de modération ainsi que la mise en place de procédures d’appel offrant aux usagers une voie de recours suite à la suppression des contenus incriminés. Ces mesures ont été prises afin d’éviter une censure abusive de la part des plateformes et démontrent l’influence possible des acteurs étatiques sur les acteurs techniques.
Ces lois, pensées pour réguler la liberté d’expression et ses excès, s’inscrivent au sein d’une lutte plus globale contre le harcèlement et les propos racistes, sexistes et homophobes. Dans une étude menée en 2019, l’agence Netino dans son Panorama de la haine en ligne, démontre que 14,3% des commentaires publiées sur les pages Facebook de grands médias français sont de nature haineuse1. Parmi ces commentaires, seuls 0,1 à 0,2% d’entre eux étaient à destination des minorités ethniques, religieuses, sexuelles et de genre. Le gros des commentaires haineux étaient quant à eux d’ordre politique. En 2020, la Cartographie de la Haine en Ligne en France, publiée par l’Institut pour le Dialogue Stratégique (ISD), démontre quant à elle que « sur les 6,6 millions de messages pertinents identifiés, notre algorithme a placé 5,5 millions de messages dans la catégorie des discours misogynes haineux » en l’espace de cinq mois2.
La violence des discours de haine à l’égard des minorités et notamment des femmes sur les réseaux sociaux est, semblerait-il, minimisée par ces mêmes lois. C’est ce que démontre l’Institut européen pour l’Égalité entre les hommes et les femmes (EIGE) dans son rapport, datant de 2017, sur la Cyber-violence à l’encontre des femmes et des filles3. En faisant le constat d’un manque considérable de données sur les violences en ligne subies par les femmes, l’Institut avance que « les femmes (en particulier les jeunes femmes âgées de 18 à 24 ans) subissent, de manière disproportionnée, des types graves de cyberharcèlement » tels que la traque furtive et le harcèlement sexuel auxquels s’ajoutent les insultes, la pornographie non sollicitée ainsi que les menaces de viol et de mort. Selon l’Institut, ces violences s’inscrivent dans le prolongement des oppressions subies par les femmes hors-lignes et sont, de fait, peu prises en compte par les plateformes. Ces constats ont mené à l’établissement au sein des pays européens à de nouvelles lois. En France, de nouveaux amendements de la loi République Numérique sont votés dès 2016 contre la pratique du « revenge porn »4. Depuis, plusieurs des formes de cyber-violences énoncées par la EIGE ont été intégrées à des textes de lois relatifs à la liberté d’expression en ligne5 mais cela n’est en réalité pas suffisant6.
L’invisibilisation ou la nouvelle forme de censure douce.
Les grandes plateformes, sous la pression des acteurs étatiques, ont mis en place de nouvelles formes de modérations basées sur l’invisibilisation des contenus problématiques qui s’ajoutent à la modération humaine et algorithmique.
Romain Badouard, dans Les nouvelles lois du web, prend l’exemple de l’entreprise Facebook et de sa politique nommée « Remove, reduce, inform » mise en place en 2016. Il y explique que « quand une publication est signalée par des internautes ou identifiée par l’équipe de fact-checkers financée par la plateforme comme étant trompeuse ou problématique, mais qu’elle n’enfreint pas les règles de publication (c’est notamment le cas de beaucoup de « fake news »), son classement est revu afin que ce contenu s’affiche moins sur les fils d’actualité des internautes. Moins vu, il est moins partagé : dégrader la visibilité constitue un moyen efficace de limiter la viralité d’une information. Cette dégradation se traduit pour les auteurs par une chute pratique de l’audience des contenus qu’ils mettent en ligne, sans qu’ils soient forcément informés ni qu’ils disposent de moyens de recours. »7. Présentée comme une avancée significative des méthodes de modération dans le cadre de la lutte contre les discours de haine et les fake news, ce modèle présente pour autant plusieurs limites.
Discours et mouvements féministes face à la modération des plateformes en ligne.
La liberté d’expression des mouvements minoritaires sur les réseaux sociaux s’est souvent vue bafouée. Nous prendrons pour exemple la vague de censure et d’invisibilisation de comptes féministes français sur le réseau social Instagram. Appartenant à Facebook, le réseau social Instagram applique lui aussi la politique du « Remove, reduce, inform » énoncée précédemment.
À partir du mois de mars 2019, une dizaine de comptes féministes se sont vus invisibilisés, parfois même jusqu’à la suppression (fig. 2). Dans ce cas précis, les comptes n’ont reçu aucun avertissement et aucune de leurs publications n’ont été censurées. Sarah Constantin et Elvire Duvelle-Charles, deux anciennes activistes FEMEN à l’origine du compte Instagram Clit Revolution, supposent que cette vague d’invisibilisation et de suppression a pour origine des « attaques de masculinistes qui signalent un compte tous en même temps ce qui fait généralement fermer le compte »8. Ces comptes auraient alors été victimes d’un raid, que Romain Badouard définit comme la création d’« une grande quantité de signalements dans un laps de temps réduit, afin de simuler la présence sur les réseaux de contenus problématiques » dont résulte une censure hâtive de la part du réseau social9. Cette pratique relève d’une censure « collective et indirecte » qui peut également être appelée « silencing ». Elle est utilisée par des groupes organisés dans le but de faire taire leurs opposants. Face à ce type de pratique, aucune mesure d’appel auprès d’Instagram n’est possible pour les usagers et aucune mesure législative n’est mise en place.
-
fig. 2 : Story du compte Instagram Clit Revolution, Instagram, Capture d’écran, 19 mars 2019. -
fig. 3 : Le #Freethenipple invisibilisé, Instagram, Capture d’écran, 24 novembre 2020.
Les cas de censure envers des comptes ou publications féministes sur Instagram sont complexes. Plusieurs éléments peuvent rentrer en ligne de compte et notamment la politique de la plateforme, particulièrement réticente aux contenus relatifs aux corps et à la sexualité des femmes. En effet, le réseau social ne distingue pas la nudité de la pornographie et l’associe à une forme de dangerosité10. Ce qui est un véritable fléau pour les images l’est aussi pour la parole en ligne qui se voit considérablement restreinte pour les comptes qui abordent ces thématiques. De fait, le réseau social censure et invisibilise certains mots sur sa plateforme. Les mots ou hashtags relatifs aux parties du corps des femmes, considérées comme sexuelles, se voit censurés car rattachés à des termes pouvant mener à des contenus à caractère pornographique. Cela pousse les internautes à pratiquer des techniques de contournements en modifiant la structure du mot souhaité. Romain Badouard, dans son ouvrage, associe cette pratique aux « communautés d’extrême droite […] qui cherchent à diffuser des discours haineux sans être repérés »11. Dans notre cas, l’usage de ces techniques de contournement marque un affaiblissement de la liberté d’expression des internautes. Par exemple, en recherchant le hashtag #Boobs ( seins en anglais) sur Instagram, des alternatives nous seront proposées telles que #böobs ou #bôôbs. Cette forme de censure de la parole en ligne touche également des mouvements internationaux tel que le mouvement Free the nipple, invisibilisé sur Instagram car susceptible d’être affilié à un contenu ne respectant pas les règles de communauté de la plateforme (fig. 3).
Bien que louable dans le cadre de la lutte contre les discours haineux, la censure pousse les usagers des réseaux sociaux, et notamment les femmes, à trouver de nouveaux moyens afin de nommer leur propre corps mais également pour aborder des thématiques autour de la sexualité, très présentes au sein des mouvements cyber-féministes contemporains.
Conclusion
Les femmes sont-elles l’un des dommages collatéraux de la régulation des méthodes de modération sur les réseaux sociaux ? Entre censure et invisibilisation, il semblerait que les internautes ne puissent remédier aux nouvelles formes de censure douce qui se développent sur les grandes plateformes. L’invisibilisation, à l’inverse de la censure, ne fait pas l’objet de communiqués de la part des grandes plateformes12. Son absence des textes législatifs ne leur impose ni transparence, ni procédures d’appel à destination des usagers. Des manquements qui ne semblent inquiéter que les personnes concernées.
Ces méthodes de modération apparaissent alors comme de nouvelles formes de violence à l’encontre des femmes qui voient leur parole et leurs images censurées. La cyber-violence à caractère sexiste, présente sur les réseaux sociaux entre les internautes, semble également émaner du fonctionnement même de la modération, qu’elle soit humaine ou algorithmique. De fait, les femmes voient leurs corps perpétuellement jugés, associés à la pornographie et lissés par le pouvoir normatif des réseaux sociaux. Face aux grandes plateformes, les discours et mouvements féministes se confrontent à une perception divergente du corps des femmes, poussée par une vision culturelle et politique provenant des États-Unis, auxquels s’ajoutent, sur les réseaux sociaux, des raisons économiques et commerciales.
Enfin, Romain Badouard clôt son livre sur la phrase suivante : « Si les technologies ne sont pas neutres, elles ne sont pas non plus immuables. Elles peuvent être déconstruites pour être réinventées. »13. Cela marque une note d’espoir quant au développement des réseaux sociaux contemporains malgré des fondements ancrés dans des discours majoritaires et la présence de nombreux biais discriminatoires.
RÉFÉRENCES BIBLIOGRAPHIQUES
BADOUARD, Romain, Les nouvelles lois du web. Modération et censure, Paris : Éditions du Seuil et La république des idées, 2020.
DEMOLIS, Célia, Activistes Féministes : Sarah & Elvire à l’European Lab, YouTube, 8:10 min., 20 juin 2019. [En ligne]. URL : https://www.youtube.com/watch?v=ZP94b77J0UQ.
EIGE, Cyber violence against women and girls, 23 juin 2015. [En ligne]. URL : https://eige.europa.eu/publications/cyber-violence-against-women-and-girls.
GILLESPIE, Tarleton, Custodians of the Internet, Yale University Press, 2018.
GUÉRIN, Cécile, « Face à la haine en ligne, la modération ne suffit plus », Libération, 22 janvier 2020. [En ligne]. URL : https://www.liberation.fr/debats/2020/01/22/face-a-la-haine-en-ligne-la-moderation-ne-suffit-plus_1774630.
Institut pour le Dialogue Stratégique, Cartographie de la Haine en Ligne, 2020. [En ligne]. URL : https://www.isdglobal.org/wp-content/uploads/2020/01/Cartographie-de-la-haine-fr.pdf.
Ministère de l’égalité entre les femmes et les hommes, de la diversité et de l’égalité des chances, Guide d’information et de lutte contre les cyber-violences à caractère sexiste, 2017. [En ligne]. URL : https://www.egalite-femmes-hommes.gouv.fr/guide-dinformation-et-de-lutte-contre-les-cyber-violences-a-caractere-sexiste/.
MYERS-WEST, S., « Censored, suspended, shadowbanned : User interpretations of content moderation on social media platforms », New Media & Society, 20, 11, 2018, pp. 4366-4383. [En ligne]. URL : https://journals.sagepub.com/doi/full/10.1177/1461444818773059.
PAASONEN, Susanna, JARRETT, Kylie, LIGHT, Ben, #NSFW. Sex, humor, and risk in social media, The MIT Press, 2019. [En ligne]. URL : https://books.google.fr/books?hl=fr&lr=&id=8CWzDwAAQBAJ&oi.
ROSEN, Guy, Community Standards Enforcement Report, November 2020, Facebook, 19 novembre 2020. [En ligne]. URL : https://about.fb.com/news/2020/11/community-standards-enforcement-report-nov-2020/#:~:text=The%20Community%20Standards%20Enforcement%20Report,property%20takedowns%20and%20internet%20disruptions.
- R. Badouard, 2020, p. 16. [↩]
- ISD, 2020, p.25. [En ligne]. [↩]
- EIGE, 2017. [En ligne]. [↩]
- Ministère de l’égalité entre les femmes et les hommes, de la diversité et de l’égalité des chances, 2017. [En ligne]. [↩]
- Ibid., pp. 3-6. [↩]
- C. Guérin, 2020. [En ligne]. [↩]
- R. Badouard, 2020, p. 62. [↩]
- C. Demolis, 2019, 4:50 min., [En ligne]. [↩]
- R. Badouard, 2020, pp. 57-58. [↩]
- S. Paasonen, K. Jarrett, B. Light, 2019. [En ligne]. [↩]
- R. Badouard, 2020, p. 54. [↩]
- G. Rosen, 2020. [En ligne]. [↩]
- R. Badouard, 2020, p.110. [↩]