Ce que les gens oublient dans le débat sur l'IA

Il a été intéressant de noter ce qui a été écrit sur l'intelligence artificielle (IA) ces dernières semaines, en particulier en ce qui concerne le battage médiatique autour de ChatGPT. Pour autant que je puisse en juger, cela revient essentiellement à la perception, ou à la peur, que l'IA a dépassé les humains en matière d'intelligence. Dr Harvey Risch compte révélateur de sa "conversation" avec une IA a amplement démontré qu'il s'agit d'une perception erronée, et pourtant elle semble persister malgré tout. 

Une expérience récente que j'ai eue avec un passionné de ChatGPT donne la même impression concernant la croyance répandue selon laquelle cette dernière AGI (Intelligence Générale Artificielle) est l'égale, sinon la supérieure des humains dans le domaine de l'intelligence. Cela s'est produit à l'occasion d'une conférence que j'ai donnée aux membres d'une organisation culturelle sur le thème de la mesure dans laquelle le travail de Freud et Hannah Arendt peut fournir un aperçu de la croissance actuelle des mesures totalitaires insidieuses de contrôle à l'échelle mondiale. 

L'un de ces développements révélateurs est la tentative de l'Organisation mondiale de la santé de priver les pays de leur souveraineté en modifiant avec succès sa constitution. Cette tentative a échoué il y a deux ans lorsque les pays africains se sont opposés aux amendements proposés, mais en 2024, l'OMS tentera à nouveau, après avoir entre-temps fait vigoureusement pression sur les dirigeants africains.

Après mon discours, quelqu'un a lié le thème de celui-ci à l'IA. Plus précisément, cela concernait mon affirmation selon laquelle les concepts freudiens d'Eros (pulsion de vie) et de Thanatos (pulsion de mort), d'une part, et les notions d'Arendt de natalité (chaque humain apporte quelque chose d'unique au monde en naissant) et pluralité (tous les humains sont différents), d'autre part, mettent en lumière la nature du totalitarisme. Elle était également liée à la question de savoir si le totalitarisme peut être soutenu par ceux qui le promeuvent. Il s'est avéré qu'après la diffusion du sujet de mon discours, il avait demandé à ChatGPT de le commenter et avait apporté la "réponse" de l'IA à la réunion sous forme imprimée pour me la montrer.

Comme on pouvait s'y attendre, pour une machine de recherche prédictive et de reconnaissance de modèles linguistiques avec une énorme base de données (ce qu'est vraiment ChatGPT), il n'était pas difficile de décompresser avec précision ce que signifient les concepts freudiens et arendtiens pertinents - n'importe quel étudiant pourrait le trouver sur Internet ou dans une bibliothèque aussi. Mais là où l'IA a faibli concernait le lien que j'établissais entre les idées de ces penseurs et les événements actuels se déroulant dans l'espace mondial.

Rappelez-vous que j'avais utilisé les concepts de Freud et d'Arendt de manière heuristique en relation avec ce qui, sans doute, sont des signes de « mouvements » totalitaires en cours dans divers domaines institutionnels aujourd'hui. ChatGPT - encore une fois prévisible - l'a fait (et sans doute pourriez ) n'a pas précisé le lien que j'avais sous-entendu dans le titre diffusé de mon discours, et avait simplement "déclaré" qu'il y avait "une" relation entre les idées de ces deux penseurs et le totalitarisme.

La raison de cela devrait être immédiatement apparente. Nulle part dans la base de données de ChatGPT il n'y a d'informations - sous la forme d'une interprétation lisible – de ce que des événements tels que la tentative soutenue de l'OMS de devenir l'organe directeur du monde (mentionné ci-dessus) sont symptomatiques, à savoir un régime totalitaire mondial naissant. Pour que ChatGPT (ou toute autre IA) puisse proposer une telle "interprétation", elle devrait soit être saisie dans sa base de données par ses programmeurs - ce qui est peu probable, voire impensable, compte tenu de sa critique implicite du très constellation de pouvoirs qui a donné lieu à la construction de ChatGPT - ou l'IA devrait posséder la capacité que possèdent tous les êtres humains "normaux", à savoir être capable d'interpréter le monde expérientiel qui les entoure. De toute évidence, aucune IA n'a cette capacité en raison de sa dépendance à la programmation. 

Mon interlocuteur a contesté cette réponse explicative de ma part, arguant que ChatGPT montre sa capacité à "raisonner" dans chaque "réponse" qu'il propose aux questions que l'on pourrait se poser. Ceci, ai-je souligné, n'est pas une description précise de ce que fait l'IA. N'oubliez pas : ChatGPT produit des réponses anthropomorphiques en langage courant aux questions qui lui sont posées. Il le fait en utilisant des exemples détectés dans les jeux de données colossaux auxquels il a accès et qui lui permettent de prédire les mots successifs dans les phrases. En bref : il est capable de trouver des modèles statistiques dans ces énormes bases de données, en utilisant le « apprentissage automatique ». 

Ce n'est pas cela le raisonnement, comme tout étudiant qui a étudié la logique et l'histoire de la philosophie devrait le savoir - comme l'a soutenu René Descartes dans le 17^th siècle, le raisonnement est une combinaison d'idées intuitives et d'inférence ou de déduction. On part d'un aperçu intuitif - disons que les lumières se sont éteintes - et on en déduit que soit quelqu'un les a éteintes, soit l'alimentation électrique a été interrompue. Ou on peut raisonner (par déduction) à partir d'un ensemble de données (l'insight intuitif) qu'un autre est soit probable, soit improbable. À aucun moment, on n'a recours à des quantités massives de données que l'on scrute à la recherche de modèles présentant des similitudes, et on se lance dans des prédictions anticipées sur cette base.

Néanmoins, comme on peut le constater auprès d'informaticiens tels que Dr Arvind Narayanan, professeur d'informatique à l'université de Princeton, les gens (comme mon interlocuteur) se laissent facilement berner par une IA telle que ChatGPT car elle semble tellement sophistiquée, et plus ils deviennent sophistiqués, plus il serait difficile pour les utilisateurs de repérer leurs lacunes concernant pseudo-raisonnement ainsi que leurs erreurs.

Comme l'indique le Dr Narayanan, les réponses de ChatGPT à certaines questions d'examen d'informatique qu'il lui a posées étaient fallacieuses, mais elles étaient formulées d'une manière si spécieuse que leur fausseté n'était pas immédiatement apparente, et il a dû les vérifier trois fois avant d'être certain que cela était le cas. Voilà pour la capacité vantée de ChatGPT à « remplacer » les humains.

Il faut se rappeler, cependant, que ce qui a été discuté jusqu'à présent en termes comparatifs est le sujet, si une IA comme ChatGPT fonctionne de la même manière que les humains au niveau de l'intelligence, ce qui concerne des différences comme le raisonnement par opposition à la reconnaissance de formes, et ainsi de suite. On pourrait aussi formuler la question en termes d'infériorité et de supériorité, bien sûr, et certains soutiennent que les humains apparaissent encore pour déjouer l'IA, même si une IA peut effectuer des calculs mathématiques plus rapidement que les humains. 

Mais ce n'est que lorsque l'on change de terrain que les différences fondamentales entre un être humain, vu de manière holistique, et une IA, aussi intelligente soit-elle, peuvent être mises en perspective. Ceci est généralement ignoré par les personnes qui s'engagent dans le débat concernant les humains par opposition à l'intelligence "artificielle", pour la simple raison que l'intelligence est ne sauraient tout ce qui compte. 

Pour illustrer ce que je veux dire, repensez à ce qui s'est passé entre le champion du monde d'échecs Garry Kasparov et Deep Blue, le "superordinateur" d'IBM, en 1997. Après avoir été vaincu par Kasparov en 1996, Deep Blue a remporté la première victoire sur un être humain par une machine l'année suivante, puis aussi - comme avec ChatGPT aujourd'hui - il y a eu une lamentation universelle sur la prétendue " disparition " de la race humaine, représentée par Kasparov vaincu par un ordinateur ( une IA). 

Comme aujourd'hui concernant ChatGPT, cette réaction était emblématique de l'erreur commise par la grande majorité des gens lorsqu'ils jugent la relation entre l'IA et les humains. Habituellement, une telle évaluation est effectuée en termes de cognition, en évaluant ce qui est le plus « intelligent » – les humains ou les machines. Mais on devrait se demander si l'intelligence était la mesure appropriée - et encore moins la plus appropriée - pour comparer les humains et les ordinateurs (en tant que représentant de l'IA) à l'époque, et même maintenant. 

Naturellement, l'humiliation de Kasparov par la machine a été rapportée partout à l'époque, et je me souviens être tombé sur un tel récit où l'auteur a montré une compréhension aiguë de ce que j'ai à l'esprit lorsque je me réfère au droit, ou aux critères appropriés de comparaison entre les humains et les IA. Après avoir reconstitué les détails déprimants de la déroute historique de Kasparov en Deep Blue, cet écrivain a eu recours à une fantaisie humoristique, mais peu éloquente.

Après la défaite symbolique de l'humain, elle ou il a fabulé, l'équipe d'ingénieurs et d'informaticiens qui avait conçu et construit Deep Blue sont sortis sur la ville pour célébrer leur triomphe d'époque. Il serait faux d'écrire « la victoire de leur machine », car à proprement parler c'est l'équipe humaine qui a remporté la victoire au moyen de « leur » ordinateur.

La chute a été préparée pour le moment où l'écrivain a demandé, de manière rhétorique, si Deep Blue, aussi, est allé peindre la ville en rouge avec Light Pink pour savourer sa conquête. Inutile de souligner que la réponse à cette question rhétorique est négative. Il a été suivi par la punchline, qui énonçait l'évidence; à savoir que «les humains célèbrent; les ordinateurs (ou les machines) font pas.» 

Avec le recul, il est frappant de constater que cet écrivain était une sorte de visionnaire, employant une fiction pour souligner le fait que, bien que les humains et l'IA partagent une « intelligence » (bien que de types différents), il le fait ne sauraient marquent les différences les plus évidentes et irréductibles entre l'IA et les humains. Il existe d'autres différences, bien plus décisives, entre les humains et l'IA, dont certaines ont été explorées ici ainsi que le ici .