« Philip Cross » était-il une IA ?

Aux côtés de l'auteur de Brownstone Jennifer Sei, j'ai reçu une mention honorable dans à bout de souffle de Walter Bragman Contexte important: Une fuite d'e-mails de l'Institut Brownstone révèle un soutien au travail des enfants et au tabagisme chez les mineurs. Bragman a choisi de joindre le hashtag #fichiersBrownstone dans une référence évidente à la Fichiers Twitter, mais c'est un peu moins percutant. Au moment d'écrire ces lignes, il a un total de deux tweets ultérieurs, tous deux hostiles à Bragman. 

Bragman rapports que dans les e-mails divulgués qu'il a consultés, "Blumen a raconté une anecdote sur les pages d'activistes anti-guerre éditées par un seul utilisateur potentiellement automatisé lentement au fil du temps." 

Bragman a raison. J'ai évoqué l'histoire de Philip Cross dans un e-mail interne sur la liste des auteurs de Brownstone. L'histoire est importante, à laquelle je n'avais pas beaucoup pensé depuis 2018, lorsqu'elle a éclaté pour la première fois. À la lumière des nouvelles récentes, cette histoire semble assez différente de celle d'il y a cinq ans. Je reviendrai sur cette histoire dans cet article actuel et poursuivrai avec une analyse de la façon dont le monde a changé au cours des cinq dernières années. 

L'histoire a éclaté en 2018 lorsque l'ancien député britannique George Galloway, connu depuis longtemps pour son vues anti-guerre, a appelé un mystérieux éditeur de Wikipédia nommé "Philip Cross" pour avoir apporté des modifications peu flatteuses à sa page Wikipédia. BBC News couvert La guerre des mots de Galloway avec un mystérieux éditeur de Wikipédia.

Le sujet de la colère de Galloway est un éditeur prolifique de Wikipédia qui s'appelle « Philip Cross ». Il a fait l'objet d'un énorme débat sur l'encyclopédie Internet – l'un des sites Web les plus populaires au monde – et aussi sur Twitter. Et il a été accusé de partialité pour avoir interagi, parfois négativement, avec certaines des personnes dont il a édité les pages Wikipédia.

Le compte Philip Cross a été créé à 18h48 GMT précisément le 26 octobre 2004. Depuis lors, il a apporté plus de 130,000 30,000 modifications à plus de 300 XNUMX pages (sic). C'est un montant substantiel, mais pas extrêmement inhabituel - ce n'est pas assez de modifications, par exemple, pour le placer dans le top XNUMX des éditeurs sur Wikipédia.

Mais c'est ce qu'il édite qui a préoccupé les politiciens et les journalistes anti-guerre. Dans ses 10 pages les plus éditées figurent le musicien de jazz Duke Ellington, le journal The Sun et le rédacteur en chef du Daily Mail Paul Dacre. Mais aussi dans ce top 10 se trouvent un certain nombre de critiques virulents de la politique étrangère américaine et britannique : le journaliste John Pilger, le chef du parti travailliste Jeremy Corbyn et le directeur de la stratégie de Corbyn, Seamus Milne.

Ses détracteurs disent également que Philip Cross a apporté des modifications favorables à des pages sur des personnalités publiques qui soutiennent l'intervention militaire occidentale au Moyen-Orient. 

...

« Ses montages ciblent sans remords les personnes qui s'opposent à la guerre en Irak, qui se sont opposées aux guerres d'intervention qui ont suivi… en Libye et en Syrie, et les personnes qui critiquent Israël », dit Galloway. 

Mintpress publié dans un excellent recueil de commentaires autour de cette question et cite Ron McKay dans le Héraut du dimanche d'Édimbourg:

Vous n'avez pas besoin d'être un théoricien du complot pour voir qu'il y a des points communs ici. Tous ceux [ciblés] sont… des militants de premier plan sur les réseaux sociaux et dans les médias grand public qui remettent vigoureusement en question notre politique étrangère. 

L'ancien ambassadeur britannique Craig Murray, également connu pour ses opinions anti-guerre et pour son soutien du fondateur de Wikileaks Julian Assange, a fait une remarque similaire : 

[…] le but de l'opération « Philip Cross » est systématiquement d'attaquer et de saper la réputation de ceux qui jouent un rôle de premier plan dans la contestation du récit dominant des médias d'entreprise et d'État, en particulier dans les affaires étrangères. 

Site anti-guerre medialens.org demandé: 

Autres voix anti-guerre notables tel que Noam Chomsky, Edward S. Herman (co-auteur du livre Consentement de fabrication), Et Rania Khalek ont également fait l'objet de la campagne de dégradation incessante de Cross. 

Amb Murray, a observé les faits étonnants suivants : 

L'éditeur non identifié, "le compte est responsable de 20.4 % de toutes les modifications" de la page de Galloway (qui Cross avait édité plus de 1800 fois), a déclaré la BBC, qui continue de détailler le contenu de modifications spécifiques qui étaient entièrement dans le sens peu flatteur ou négatif.

MISE À JOUR "Philip Cross" n'a pas eu un seul jour de congé pour éditer Wikipédia en près de cinq ans. "Il" a édité chaque jour du 29 août 2013 au 14 mai 2018. Dont cinq jours de Noël. C'est 1,721 XNUMX jours consécutifs de montage.

Ainsi, 133,612 14 modifications de Wikipédia ont été apportées au nom de "Philip Cross" sur 30 ans. Cela représente plus de XNUMX modifications par jour, sept jours sur sept. Et je n'utilise pas cela au sens figuré : les modifications de Wikipédia sont chronométrées, et si vous les tracez, la chronologie de l'activité de "Philip Cross" sur Wikipédia est étonnante s'il s'agit d'un seul individu :

L'opération fonctionne comme sur des roulettes, sept jours sur sept, toutes les heures de veille, sans variation significative.

Ambiance Murray à condition de le graphique suivant de la productivité de « Philip Cross » dans la modification des pages Wikipédia par jour de la semaine en moyenne sur les 14 années d'activité : 

Qui est ou était ce Philip Cross ? À la suite de l'article de la BBC mentionné ci-dessus, Cross s'est retiré de sa carrière de vandalisme Classé # 308 parmi les éditeurs Wikipédia les plus actifs de tous les temps. Son l'ancien compte Twitter @philipcross63 n'existe plus. Personne qui sait, ne le dit. Galloway pense que Cross est une "personne réelle et vulnérable". 

Ambiance Murray note que Galloway avait à un moment donné offert une récompense de 1,000 XNUMX £ pour l'identité de cette personne ou entité, "afin qu'il puisse également intenter une action en justice". MediaLens Etats que "BBC Trending a pu établir qu'il vit en Angleterre et que Philip Cross n'est pas le nom qu'il porte normalement en dehors de Wikipédia". Everipedia.org déclare "Cross est un passionné de jazz et de théâtre." Je soupçonne qu'il aime probablement aussi les longues promenades sur la plage et se blottir devant une cheminée à foyer ouvert avec une copie du . 

Ambiance Murray .: 

Il y a trois options ici. "Philip Cross" est soit une personne très étrange en effet, soit un faux personnage déguisant une opération payante pour contrôler le contenu de wikipedia, soit une véritable personne de façade pour une telle opération en son nom.

ainsi que les

Mon point de vue est que Philip Cross est probablement une personne réelle, mais qu'il représente un groupe agissant sous son nom. Il est indéniablement vrai, en fait, le gouvernement s'est vanté que le MOD et le GCHQ ont des opérations de "cyber-guerre" visant à défendre le récit "officiel" contre les médias d'information alternatifs, et c'est précisément le but de la "Philip Cross". opération sur Wikipédia. L'extrême régularité de la production plaide contre le fait que "Philip Cross" soit une opération d'un seul homme ou de bénévoles. Je n'exclus pas cependant la possibilité qu'il ne soit vraiment qu'un fanatique de droite extrêmement obsédé.

Un éditeur Wikipédia dans une chaîne secondaire préoccupation exprimée que la réputation de Wikipédia (telle qu'elle est) pourrait être lorsque la lumière a été faite sur les activités inhabituelles de "Philip Cross". 

L'histoire a-t-elle eu une fin heureuse ? En août 2018, rapporté par Cinq Filtres, "Le comité d'arbitrage de Wikipédia (ArbCom) a finalement voté pour bannir l'éditeur Philip Cross du sujet de la « politique britannique post-1978 ». Mais attendez - pas si vite. "Dans un petit mouvement de tit-for-tat, cependant, le comité d'arbitrage de Wikipédia a décidé qu'il punirait également l'éditeur qui a tenté d'alerter la communauté sur la conduite de Philip Cross."

J'étais au courant de l'histoire de Philip Cross lorsqu'elle a éclaté en 2018. À l'époque, je n'avais pas d'explication à ce sujet. Cela me semblait étrange et je ne pensais pas aux bots ou à l'automatisation du langage naturel. 

Les récentes révélations révolutionnaires de Twitter sur l'existence et l'ampleur massive de un complexe censure-industriel organisé (CIC) rendent les soupçons de censure du secteur officiel, peut-être dans une itération antérieure il y a cinq ans, beaucoup plus plausibles. FiveFilters.org écrit en 2018, "Presque tout Wikipédia est écrit par seulement 1% de ses éditeurs". Le même morceau cite un article de Daniel Oberhaus dans Vice À partir de 2017 ans à propos de la concentration de l'édition de Wikipédia :

Mais au fur et à mesure que l'encyclopédie grandissait et que le nombre de collaborateurs augmentait avec elle, un cadre d'éditeurs purs et durs a émergé et a représenté l'essentiel de la croissance de Wikipédia depuis.

Matei et son collègue Brian Britt, professeur adjoint de journalisme à la South Dakota State University, ont utilisé un algorithme d'apprentissage automatique pour explorer le quart de milliard de journaux d'édition accessibles au public de la première décennie d'existence de Wikipédia. Les résultats de cette recherche, publiés en septembre sous le titre un livre, suggère que malgré toute la prétention de Wikipédia à être un site produit par un réseau de pairs collaborant librement, « certains pairs sont plus égaux que d'autres »,

L'article long sur racket.news cite plusieurs exemples d'acteurs du CIC utilisant l'IA et le traitement du langage naturel. Le Projet de biens publics, Par exemple, 

utiliser l'IA et le traitement du langage naturel pour "identifier, suivre et répondre aux récits, aux tendances et aux problèmes urgents" afin de "vérifier les faits" et de "forcer les stratégies de changement de comportement".

Une histoire récente sur la sous-pile d'Igor Chodov, Les chatbots AI financés par Bill Gates ont promu les vaccins COVID (vous les avez peut-être rencontrés sur les réseaux sociaux) qui cite un article nature.com Efficacité des chatbots sur la confiance et l'acceptation du vaccin COVID en Thaïlande, à Hong Kong et à Singapour fournit plus d'informations sur l'utilisation des bots au service du contrôle des récits. 

L'émergence récente de grands modèles de langage performants rend l'idée d'automatisation plus plausible. Sinon en 2018, un LLM pourrait désormais facilement réécrire un texte donné pour l'incliner dans la direction indiquée. 

Y avait-il des modèles qui pouvaient le faire à l'époque ? Les futures campagnes de contrôle des récits de Wikipédia s'appuieront-elles sur cette technologie ? Quel est l'avenir d'une base de connaissances participative telle que Wikipédia qui dépend du coût élevé en temps humain et en interaction sociale de la modification d'un sujet controversé alors que la possibilité d'automatiser cela le rend presque gratuit ?