👁‍🗨 La modération abusive de contenu sur ordre de la Cyber Unité israélienne consacre l’apartheid numérique de Gaza

L'approche de Meta restreint drastiquement la liberté d'expression sans justification, et l'entreprise devra mettre fin à l'interdiction de supprimer tous les contenus utilisant le terme “shaheed”.

👁‍🗨 La modération abusive de contenu sur ordre de la Cyber Unité israélienne consacre l’apartheid numérique de Gaza

Par Page Collings, le 26 juillet 2024

Première partie d'une série en cours.

---

L'implication des gouvernements dans la modération des contenus soulève de graves préoccupations en matière de droits humains, quel que soit le contexte. Depuis le 7 octobre, les plateformes de réseaux sociaux ont été confrontées à la suppression injustifiée de contenus pro-palestiniens - parfois à la demande du gouvernement israélien - et à un manquement simultané à l'obligation de supprimer les discours de haine à l'égard des Palestiniens. Plus précisément, les plateformes de réseaux sociaux ont collaboré avec Cyber Unit, la cyber-unité israélienne - un service gouvernemental chargé d'adresser des demandes de retrait aux plateformes - afin de supprimer les contenus considérés comme une incitation à la violence et au terrorisme, ainsi que toute promotion de groupes largement désignés comme terroristes.

Nombre de ces partenariats sont antérieurs au conflit actuel, mais ils se sont amplifiés depuis. Entre le 7 octobre et le 14 novembre, les autorités israéliennes ont envoyé au total 9 500 demandes de suppression à des plateformes de réseaux sociaux, dont 60 % ont été adressées à Meta, avec un taux de conformité de 94 %.

Ce n'est pas nouveau. La Cyber Unit se vante depuis longtemps de ce que ses injonctions de suppression se traduisent par des taux de satisfaction élevés, allant jusqu'à 90 %, sur l'ensemble des plateformes de réseaux sociaux. Elle a injustement ciblé des militants des droits des Palestiniens, des organisations de presse et la société civile. Un incident de ce type a incité le Conseil de surveillance de Meta à recommander à l'entreprise de

“formaliser un processus transparent sur la façon dont elle reçoit et répond à toutes les demandes gouvernementales de suppression de contenu, et de veiller à ce qu'elles soient intégrées dans les rapports de transparence”.

Lorsqu'une plateforme modifie un contenu à la demande d'un organisme gouvernemental, elle risque d'être systématiquement biaisée en faveur des positions privilégiées de ce gouvernement. Cette coopération confère aux agences gouvernementales une influence considérable sur les systèmes de modération de contenu pour leurs propres objectifs politiques - contrôler le dialogue public, supprimer la dissidence, réduire au silence les opposants politiques ou neutraliser les mouvements sociaux. Une fois ces systèmes mis en place, il est facile pour le gouvernement de les utiliser pour contraindre et faire pression sur les plateformes afin qu'elles modèrent des discours qu'elles n'auraient peut-être pas choisi de modérer autrement.

Parallèlement aux demandes de retrait du gouvernement, la liberté d'expression à Gaza a subi des restrictions supplémentaires car les plateformes ont injustement supprimé des contenus et des comptes pro-palestiniens, entravant ainsi la diffusion des informations et réduisant au silence les voix qui expriment leur inquiétude pour les Palestiniens. Dans le même temps, X a été critiqué pour son incapacité à supprimer les discours haineux et a désactivé des fonctions permettant aux utilisateurs de signaler certains types de fausses informations. TikTok a mis en œuvre des stratégies peu convaincantes pour contrôler la nature du contenu de ses services. Meta a admis avoir supprimé certains commentaires contenant le drapeau palestinien dans certains "contextes offensants" qui enfreignent ses règles.

Pour lutter contre ces atteintes à la liberté d'expression à Gaza, l'Electronic Frontier Foundation (EFF) exhorte les plateformes à suivre les principes de Santa Clara sur la transparence et la responsabilité en matière de modération de contenu et à entreprendre les actions suivantes :

1. Associer les parties prenantes locales et régionales au processus d'élaboration des politiques afin d'assurer une plus grande compétence culturelle - connaissance et compréhension de la langue, de la culture et des contextes locaux - dans l'ensemble du système de modération des contenus.

2. Reconnaître d'urgence les risques particuliers pour les droits des utilisateurs qui résultent de l'implication de l'État dans les processus de modération des contenus.

3. Veiller à ce que les acteurs étatiques n'exploitent pas ou ne manipulent pas les systèmes de modération de contenu des entreprises pour censurer les dissidents, les opposants politiques, les mouvements sociaux ou toute autre personne.

4. Informer les utilisateurs quand, comment et pourquoi leur contenu a fait l'objet d'une action, et leur donner la possibilité de faire appel.

Tous doivent pouvoir accéder au processus décisionnel

Compte tenu des preuves significatives des violations des droits de l'homme commises à l'encontre des Palestiniens, avant et depuis le 7 octobre, les entreprises technologiques américaines ont l'obligation éthique de vérifier, pour elles-mêmes, pour leurs employés, pour le public américain et pour les Palestiniens eux-mêmes, qu'elles ne contribuent pas directement à ces abus. Les Palestiniens doivent pouvoir participer, au même titre que les Israéliens, à la modération des discours dans la région, et en premier lieu du leur. À défaut, ils risquent de contribuer à une forme d'apartheid numérique.

Un problème récurrent

Ce n'est pas la première fois que l'EFF soulève des questions sur la censure en Palestine, y compris dans de nombreux forums internationaux. Plus récemment, nous avons écrit au rapporteur spécial de l'ONU sur la liberté d'expression pour lui faire part de notre inquiétude quant à l'impact disproportionné des restrictions d'expression imposées par les gouvernements et les entreprises sur les plates-formes. En mai, nous avons soumis des commentaires au Conseil de surveillance en insistant sur le fait que les décisions de modération du cri de ralliement “Du fleuve à la mer” doivent être prises sur une base individuelle plutôt que par le biais d'une interdiction globale. Avec des alliés internationaux et régionaux, l'EFF a également demandé à Meta de revoir ses pratiques de modération de contenu et ses politiques qui restreignent le contenu sur la Palestine, et a publié une série de recommandations à mettre en œuvre par l'entreprise.

En avril 2023, l'EFF et l'ECNL [European Center for Not-for-Profit Law : Centre européen pour le droit des organisations à but non lucratif, joue un rôle primordial dans la promotion de la démocratie, de l'État de droit, de l'inclusion sociale et du développement] ont soumis des commentaires au Conseil de surveillance concernant la surmodération du mot “shaheed” [martyr] et d'autres contenus en langue arabe par Meta, en particulier par l'utilisation d'outils de modération de contenu automatisés. Dans sa réponse, le Conseil de surveillance a estimé que l'approche de Meta restreint de manière disproportionnée la liberté d'expression, qu'elle n'est pas justifiée et que l'entreprise doit mettre fin à l'interdiction générale de supprimer tous les contenus utilisant le terme “shaheed”.

https://www.eff.org/deeplinks/2024/07/digital-apartheid-gaza-unjust-content-moderation-request-israels-cyber-unit