•  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  

Comment Facebook décide de ce que vous pouvez voir

Un J'aime de Facebook

Un J'aime de Facebook

Photo : iStock / iStockPhoto

Catherine Mathys

Le journal allemand Süddeutsche Zeitung a mis la main sur des documents internes de Facebook qui détaillent la manière dont la plateforme décide de supprimer ou non certains contenus.

Le site du journal précise que ces documents internes sont en fait le mode d’emploi que doivent suivre les modérateurs qui décident du sort de certains contenus. Comme le journal Le Monde l’indique, Facebook est habituellement très secret sur ses méthodes de travail. Il s’agit donc d’une incursion privilégiée dans la manière d’opérer du géant des réseaux sociaux.

Distinguer les messages haineux

Fait intéressant, cette modération est souvent confiée à des sous-traitants, apprend-on dans l’article du quotidien allemand. On peut supposer que le document est celui utilisé lors des formations qui servent à montrer comment déterminer le contenu devant faire l’objet de censure.

D’abord, mettons les choses au clair. Ce ne sont pas tant les messages haineux qui intéressent Facebook, mais le fait que ces derniers puissent faire fuir des utilisateurs parce qu’ils créent un environnement dans lequel l’intimidation et l’exclusion bloquent l’envie de partager du contenu. La plateforme veut donc offrir une expérience plus harmonieuse dans le but de vous garder captif plus longtemps (et de faire plus de revenus publicitaires).

Trouver la bonne catégorie

Ce qui constitue un discours haineux et qui doit donc être effacé doit répondre à certains critères. La définition donnée par Facebook est celle d’une attaque envers une « catégorie protégée ». Ces catégories, déterminées par le réseau, incluent le sexe, l’appartenance à une religion, l’origine nationale, l’identité de genre, l’origine ethnique, l’orientation sexuelle, un handicap ou une maladie grave. Une attaque qui vise l’une ou l’autre de ces catégories doit être supprimée.

À cette première liste s’ajoutent des sous-catégories qui bénéficient également d’une protection accrue. Ainsi, l’âge, l’emploi, le continent d’origine, le statut social, l’apparence physique, l’affiliation politique et certaines religions en font partie.

En effet, les membres de groupes religieux sont protégés, mais pas les religions elles-mêmes sauf l’islam, le catholicisme et la scientologie. Le même principe s’applique, par exemple, aux pays d’origine. Il est possible de critiquer la France ou l’Allemagne en général, mais pas d’intimider des gens sur la base de leur nationalité. Vous suivez? C’est subtil.

Un nombre exponentiel de catégories

Quand ces catégories s’entrecroisent, elles créent une nouvelle catégorie de contenu protégé. Le journal allemand donne l’exemple d’une femme irlandaise. Ici, on croise les catégories de sexe et d’origine nationale. En théorie, si on écrit que les femmes irlandaises sont stupides, ça correspond à ce que Facebook entend par message haineux. Par contre, quand on combine une catégorie protégée avec une catégorie non protégée, on passe sous le radar. Cette fois, l’exemple fourni est celui d’un adolescent irlandais. Si l’origine nationale est protégée, on ne peut pas en dire autant des adolescents. Dire d’un adolescent irlandais qu’il est stupide ne constitue donc pas un message haineux, selon les critères de Facebook. Oui, ça porte à confusion, vous avez bien raison.

Et tout ceci ne s’applique pas de la même manière, que vous soyez un simple citoyen ou un personnage public. En général, les personnalités connues sont moins protégées. Et comment les définit-on? Ce sont des élus, des utilisateurs qui ont plus de 100 000 abonnés, des gens qui travaillent dans les médias et qui font des déclarations publiques, ou encore des personnes qui ont été mentionnées au moins cinq fois dans les nouvelles des deux dernières années. Sur Facebook, la popularité a ses risques.

Des règles plutôt floues

Le document interne de Facebook contient un certain nombre de ces règles, notamment autour des phrases à proscrire. Le Süddeutsche Zeitung mentionne le cas intéressant des règles qui entourent les migrants. Par exemple, insulter directement les musulmans ne passe pas (c’est une affiliation religieuse et c’est protégé), mais insulter directement les migrants est acceptable. Ces derniers ne sont protégés que partiellement depuis que des plaintes ont été formulées en Allemagne. Cette règle accepte le dénigrement dans certaines circonstances. Dire que les migrants sont sales, ça va; dire que les migrants sont une saleté, ça ne va plus.

Aussi, contrairement à ce qu’on aurait cru, on ne peut pas, semble-t-il, évaluer ou comparer l’apparence physique d’une personne. C’est considéré comme du harcèlement. Ainsi, si on voit une photo avec trois femmes sur une plage et que le texte demande de choisir la plus sexy, le statut devrait être effacé. Mais le journal allemand relève bien que cette règle n’est pas toujours appliquée de la même manière. Ainsi, un message de Donald Trump indiquant que les femmes aux petites poitrines peuvent difficilement obtenir un score de 10 sur 10 devrait être supprimé.

Enfin, si des comportements autodestructeurs sont exhibés, ils seront tolérés si une mention indique bien de ne pas reproduire les mêmes gestes. De même, des images choquantes comme un enfant sérieusement blessé ou un cas d’anorexie extrême ne seront pas retirées si le contexte est bien établi et que le statut n’encourage pas de faire de même. Le document Facebook indique tout de même qu’une forme d’aide devrait être apportée aux utilisateurs qui diffusent ce genre de contenu (comme le numéro d’une ligne d’aide, par exemple).

Pas de tolérance pour l’humiliation

Sur Facebook, l’humiliation n’a pas sa place, mais encore faut-il savoir comment on y définit l’humiliation. Toute démonstration d’une fonction biologique habituellement privée (uriner, déféquer, vomir) sera supprimée, sauf si vous êtes une vedette ou si Facebook juge que l’image n’est pas nécessairement humiliante.

Vous l’aurez compris : tout ceci n’est pas simple et, surtout, est sujet à changement. Les réseaux sociaux sont un sport dangereux. Soyez prudents.

Techno