Melissa Ingle s'occupait de la censure chez Twitter avant d'être virée/e par Musk

C‘est ainsi que fonctionne le monde moderne, c’est ce type de personnes qui décident, du jour au lendemain, de censurer toute parole discordante sans même passer par les tribunaux, c’est ainsi. De quel droit ? Qui lui a demandé de faire ça ? On ne sait pas trop, c’est la nouvelle normalité. Néanmoins, dès que ces mêmes personnes sont virées de leurs jobs d’inquisiteurs, elles crient au scandale et à la censure ! Comique. Faut-il rappeler également le nombre extraordinaire d’inquisiteurs qui travaillaient chez Twitter avant le rachat par E. Musk, on parle de plus de 7000 personnes ! C’est d’autant plus curieux que la censure fonctionne automatiquement via des algorithmes, on se demande bien à quoi servait cette armée ?

Melissa Ingle était une data scientist senior chez Twitter, travaillant sur l’intégrité civique et la désinformation politique.

En tant qu’employée contractuelle, elle a écrit des algorithmes qui modéraient les contenus nuisibles sur Twitter avant les élections américaines et brésiliennes. Au début du mois, Ingle a fait partie des 4 400 employés contractuels qui ont perdu l’accès aux systèmes internes de Twitter sans en être informés. Beaucoup s’attendent à ce que les coupes dans l’équipe de modération aient un effet paralysant sur la santé de Twitter. Mme Ingle a parlé à Rest of World de ses craintes quant à l’avenir poreux de la modération de Twitter.

Pouvez-vous décrire votre rôle chez Twitter ? De quelle équipe faisiez-vous partie, et à quoi ressemblait votre quotidien ?
J’étais une data scientist senior, travaillant sur l’intégrité civique et la désinformation politique. J’ai écrit et surveillé les algorithmes qui scannaient Twitter à la recherche de désinformation politique. Nous formions et mettions à jour nos modèles en permanence. Nous envoyions également une sous-section des tweets que nous signalions pour qu’ils soient examinés par des humains. Le personnel de base de l’opération de modération de contenu était une équipe de 30 personnes au total ; ils vérifiaient tous les types de contenu : discours haineux, harcèlement, pornographie, abus ou trafic d’enfants, etc. Nous étions pour la plupart des scientifiques spécialisés dans les données et nous étions en interface avec de nombreux autres groupes chez Twitter.

Quelles étaient les deux plus grandes régions que vous avez surveillées, et pourriez-vous parler de la nature de la désinformation politique dans ces régions par rapport aux États-Unis ?
Nous avons surveillé et marqué les tweets autour des élections américaines et brésiliennes. Chaque pays avec un grand groupe d’utilisateurs avait des politiques différentes. Nous avons écrit nos algorithmes en fonction des politiques locales et en consultation avec des personnes qui connaissaient très bien la langue et la culture. Je pense que nous avons manqué de nombreux pays d’Afrique et que nous avons également été gênés dans certaines parties de l’Asie du Sud-Est en raison de l’interférence des gouvernements locaux.

Que pensez-vous de la croyance selon laquelle l’opération de modération de Twitter, qui compte 4 000 personnes, est hypertrophiée ?
Il est très possible qu’il y ait eu un certain gonflement. Je ne suis pas un PDG, je suis un contributeur individuel. Mais la modération du contenu nécessite à la fois des algorithmes – car il y a 37,5 millions de tweets par heure – et un examen humain. Comme nous nous éloignons de plus en plus des personnes licenciées, il n’y a plus personne à l’interrupteur. De plus, l’apprentissage automatique a besoin d’une mise à jour et d’un changement constants, car la nature du discours politique change. Nous n’avons pas encore vu l’impact négatif de ces politiques…

Rest of World

Bengalore (Inde)

16 novembre 2022