Quand l’algorithme ne détecte pas les discours haineux

On désigne ici par «algoritmo» l’ensemble du codage informatique —gardé jalousement secret par la compagnie— qui détermine que tel contenu se retrouvera dans le fil d’informations d’une personne, mais pas d’une autre. C’est grâce à l’algorithme qu’un user de Facebook est censé se retrouver, petit à petit, avec de plus en plus de contenus qui provoquent chez lui des emotions et l’incitent à revenir le plus souvent possible sur la plateforme ou à y rester le plus longtemps possibile.

Oppure, ce que les critiques prétendent depuis des années, c’est qu’il importe peu que ces contenus soient de fausses nouvelles, voire des message carrément hostiles ou haineux: l’important serait “l’engagement” qu’ —ils suscitent , complice, commentatore.

Due organismi à ma non redditizio, Testimone globale e digitale, non testare l’algoritmo di Facebook e creare una seconda copia di messaggi pubblicitari contenuti nei messaggi che sono stati “disumanizzati” da minoranze etniche dell’Ethiopie et du Myanmar e contengono appels au meurtre. Ils ont choisi ces deux pays, parce qu’ils ont tous deux été nommés dans les documenti della lancia d’allerta Frances Haugen l’automne dernier: deux pays où Facebook aurait contribué à la propagation des discours haineux contre des minortés.

Le pubblicità non sono state pubblicate per i due organismi (elles avaient été programmées pour une date future), mais elles ont été approvate dal sistema di Facebook. Prévenue de la situazione, la compagnie an admis que les publicités n’auraient pas dû être approuvées.

« Nous avons choisi les pires cas que nous pouvions imager », un déclaré à l’Associated Press Rosie Sharpe, testimone globale. «Ceux qui devaient être les plus facils à détecter pour Facebook. Ils n’étaient pas en langage code… Ils étaient des déclarations esplicita disant que ce type de personne n’est pas un humain. »

Dans la foulée des révélations de Frances Haugen, la plateforme e toujours rifiutato di dire combien de gens elle Employait pour faire la moderation dans des langues autres que l’anglais, o dans des des pays dont l’anglais n’est pas la pregue.