Ce que les gens oublient dans le débat sur l'IA

Il est intéressant de constater ce qui a été écrit sur l'intelligence artificielle (IA) ces dernières semaines, notamment en ce qui concerne l'engouement autour de ChatGPT. De mon point de vue, la plupart de ces écrits reflètent la perception, ou la crainte, que l'IA a surpassé l'intelligence humaine. Le récit édifiant du Dr Harvey Risch sur sa « conversation » avec une IA a amplement démontré qu'il s'agit d'une perception erronée, et pourtant, elle persiste.

Une expérience récente que j'ai eue avec un passionné de ChatGPT donne la même impression concernant la croyance répandue selon laquelle cette dernière AGI (Intelligence Générale Artificielle) est l'égale, sinon la supérieure des humains dans le domaine de l'intelligence. Cela s'est produit à l'occasion d'une conférence que j'ai donnée aux membres d'une organisation culturelle sur le thème de la mesure dans laquelle le travail de Freud et Hannah Arendt peut fournir un aperçu de la croissance actuelle des mesures totalitaires insidieuses de contrôle à l'échelle mondiale. 

L'un de ces développements révélateurs est la tentative de l'Organisation mondiale de la santé de priver les pays de leur souveraineté en modifiant avec succès sa constitution. Cette tentative a échoué il y a deux ans lorsque les pays africains se sont opposés aux amendements proposés, mais en 2024, l'OMS tentera à nouveau, après avoir entre-temps fait vigoureusement pression sur les dirigeants africains.

Suite à ma conférence, quelqu'un a établi un lien entre le thème abordé et l'intelligence artificielle. Plus précisément, cela concernait mon affirmation selon laquelle les concepts freudiens d'Éros (pulsion de vie) et de Thanatos (pulsion de mort), d'une part, et les notions arendtiennes de natalité (chaque être humain apporte au monde quelque chose d'unique par sa naissance) et de pluralité (tous les êtres humains sont différents), d'autre part, éclairent la nature du totalitarisme. Cela portait également sur la question de savoir si le totalitarisme peut être maintenu par ceux qui le promeuvent. Il s'est avéré qu'après la diffusion du sujet de ma conférence, cette personne avait demandé à ChatGPT de le commenter et avait apporté la « réponse » de l'IA sous forme imprimée à la réunion pour me la montrer.

Comme on pouvait s'y attendre, pour une machine de recherche prédictive et de reconnaissance de modèles linguistiques avec une énorme base de données (ce qu'est vraiment ChatGPT), il n'était pas difficile de décompresser avec précision ce que signifient les concepts freudiens et arendtiens pertinents - n'importe quel étudiant pourrait le trouver sur Internet ou dans une bibliothèque aussi. Mais là où l'IA a faibli concernait le lien que j'établissais entre les idées de ces penseurs et les événements actuels se déroulant dans l'espace mondial.

Rappelons que j'avais utilisé les concepts de Freud et d'Arendt de manière heuristique en lien avec ce qui, selon moi, sont des signes de dérives totalitaires observées aujourd'hui dans divers domaines institutionnels. ChatGPT – comme on pouvait s'y attendre – n'a pas approfondi (et n'aurait sans doute pas pu ) le lien que j'avais suggéré dans le titre de ma conférence, se contentant d'affirmer qu'il existait une certaine relation entre les idées de ces deux penseurs et le totalitarisme.

La raison de cela devrait être immédiatement évidente. La base de données de ChatGPT ne contient aucune information – sous forme d'interprétation lisible – expliquant ce dont des événements tels que la tentative persistante de l'OMS de devenir l'instance dirigeante mondiale (mentionnée plus haut) sont symptomatiques : l'émergence d'un régime totalitaire mondial. Pour que ChatGPT (ou toute autre IA) puisse fournir une telle « interprétation », il faudrait soit que ses programmeurs l'intègrent à sa base de données – ce qui est improbable, voire impensable, compte tenu de sa critique implicite du système même qui a permis sa création –, soit que l'IA possède la capacité, propre à tout être humain, d'interpréter le monde qui l'entoure. De toute évidence, aucune IA ne possède cette capacité, car elle dépend d'une programmation.

Mon interlocuteur a contesté cette réponse explicative de ma part, arguant que ChatGPT montre sa capacité à "raisonner" dans chaque "réponse" qu'il propose aux questions que l'on pourrait se poser. Ceci, ai-je souligné, n'est pas une description précise de ce que fait l'IA. N'oubliez pas : ChatGPT produit des réponses anthropomorphiques en langage courant aux questions qui lui sont posées. Il le fait en utilisant des exemples détectés dans les jeux de données colossaux auxquels il a accès et qui lui permettent de prédire les mots successifs dans les phrases. En bref : il est capable de trouver des modèles statistiques dans ces énormes bases de données, en utilisant le « apprentissage automatique ». 

Ce n'est pas cela le raisonnement, comme tout étudiant en logique et en histoire de la philosophie devrait le savoir. Comme l'affirmait René Descartes au XVIIe ^siècle , le raisonnement est une combinaison d'intuitions et d'inférence ou de déduction. On part d'une intuition – par exemple, que les lumières sont éteintes – et on en déduit que soit quelqu'un les a éteintes, soit il y a eu une coupure de courant. On peut aussi raisonner (par déduction) à partir d'un ensemble de données (l'intuition) pour en déduire la probabilité ou l'improbabilité d'un autre. À aucun moment on ne recourt à d'immenses quantités de données pour y déceler des schémas similaires et formuler des prédictions à partir de là.

Néanmoins, comme on peut le constater auprès d'informaticiens tels que le Dr Arvind Narayanan , professeur d'informatique à l'université de Princeton, les gens (comme mon interlocuteur) sont facilement dupés par une IA telle que ChatGPT car elle paraît très sophistiquée, et plus elle devient sophistiquée, plus il est difficile pour les utilisateurs de repérer ses lacunes en matière de pseudo-raisonnement ainsi que ses erreurs.

Comme l'indique le Dr Narayanan, les réponses de ChatGPT à certaines questions d'examen d'informatique qu'il lui a posées étaient fallacieuses, mais elles étaient formulées d'une manière si spécieuse que leur fausseté n'était pas immédiatement apparente, et il a dû les vérifier trois fois avant d'être certain que cela était le cas. Voilà pour la capacité vantée de ChatGPT à « remplacer » les humains.

Il convient toutefois de rappeler que les discussions menées jusqu'ici en termes comparatifs portent sur la question de savoir si une IA comme ChatGPT fonctionne de la même manière que les humains en termes d'intelligence, ce qui concerne des différences telles que le raisonnement par opposition à la reconnaissance de formes, etc. On pourrait également formuler la question en termes d'infériorité et de supériorité, bien sûr, et certains affirment que les humains semblent toujours surpasser l'IA en intelligence, même si cette dernière peut effectuer des calculs mathématiques plus rapidement.

Mais ce n'est qu'en changeant de perspective que les différences fondamentales entre un être humain, considéré dans son ensemble, et une IA, aussi intelligente soit-elle, apparaissent au grand jour. Ce point est généralement négligé par ceux qui participent au débat sur l'intelligence humaine par opposition à l'intelligence « artificielle », pour la simple raison que l'intelligence n'est pas le seul critère déterminant.

Pour illustrer mon propos, repensez à ce qui s'est passé entre le champion du monde d'échecs Garry Kasparov et Deep Blue , le « superordinateur » d'IBM, en 1997. Après avoir été battu par Kasparov en 1996, Deep Blue a remporté la première victoire d'une machine contre un être humain l'année suivante, et alors aussi – comme avec ChatGPT aujourd'hui – on a déploré universellement la supposée « disparition » de la race humaine, représentée par la défaite de Kasparov face à un ordinateur (une IA).

Comme aujourd'hui concernant ChatGPT, cette réaction était emblématique de l'erreur commise par la grande majorité des gens lorsqu'ils jugent la relation entre l'IA et les humains. Habituellement, une telle évaluation est effectuée en termes de cognition, en évaluant ce qui est le plus « intelligent » – les humains ou les machines. Mais on devrait se demander si l'intelligence était la mesure appropriée - et encore moins la plus appropriée - pour comparer les humains et les ordinateurs (en tant que représentant de l'IA) à l'époque, et même maintenant. 

On comprend aisément que l'humiliation de Kasparov par la machine ait été largement relayée à l'époque, et je me souviens d'avoir lu un récit où l'auteur faisait preuve d'une compréhension fine de ce que j'entends par critères de comparaison pertinents entre humains et IA. Après avoir reconstitué les détails désolants de la déroute historique de Kasparov face à Deep Blue , cet auteur a eu recours à une petite fantaisie humoristique, mais révélatrice.

Après la défaite symbolique de l'humain, imaginait-il, l'équipe d'ingénieurs et d'informaticiens qui avait conçu et construit Deep Blue alla fêter en ville son triomphe historique. Il serait inexact d'écrire « la victoire de leur machine », car, à proprement parler, c'est bien l'équipe humaine qui remporta la victoire grâce à « leur » ordinateur.

La chute était préparée lorsque l'auteur a demandé, de manière rhétorique, si Deep Blue , lui aussi, était sorti faire la fête avec Light Pink pour savourer sa victoire. Inutile de préciser que la réponse à cette question rhétorique est négative. Elle était suivie de la chute, qui énonçait une évidence : « Les humains célèbrent ; les ordinateurs (ou les machines) non . »

Avec le recul, on constate que cet auteur était une sorte de visionnaire, utilisant la fiction pour souligner que, bien que les humains et l'IA partagent une forme d'« intelligence » (quoique différente), cela ne constitue pas la différence la plus évidente et irréductible entre l'IA et les humains. Il existe d'autres différences, bien plus décisives, entre les humains et l'IA, dont certaines ont été explorées ici et ici.