La menace posée par l'intelligence artificielle a de plus en plus dominé les émissions télévisées et radiophoniques grand public ces dernières semaines. Les avertissements ont fait la une des journaux à la fin de l'année dernière, lorsque ChatGPT a gagné plus d'un million d'utilisateurs moins d'une semaine après son lancement. À ce moment-là, les préoccupations se concentraient principalement sur la capacité de ChatGPT à imiter les réponses humaines, en produisant instantanément des réponses aux questions d'examen, aux essais universitaires et même reportages – menaçant de rendre les résultats des examens dénués de sens et de mettre des millions au chômage.
La menace a atteint son paroxysme fin mai lorsque le Center for AI Safety a publié un déclaration, signé par des centaines d'experts internationaux de premier plan dans le domaine, avertissant que l'intelligence artificielle représentait un risque existentiel pour l'humanité au même niveau que les pandémies et les guerres nucléaires.
L'atténuation du risque d'extinction de l'IA devrait être une priorité mondiale aux côtés d'autres risques à l'échelle de la société tels que les pandémies et la guerre nucléaire.
D'après Michael Osborne, professeur d'apprentissage automatique à l'Université d'Oxford et co-fondateur de Mind Foundry, c'est le risque d'extinction qui préoccupe le plus.
"Il est vraiment remarquable que tant de personnes aient signé cette lettre", a-t-il déclaré. "Cela montre qu'il y a une prise de conscience croissante parmi ceux d'entre nous qui travaillent dans l'IA que les risques existentiels sont une réelle préoccupation."
"Parce que nous ne comprenons pas très bien l'IA, il est possible qu'elle joue un rôle comme une sorte de nouvel organisme concurrent sur la planète, donc une sorte d'espèce envahissante que nous avons conçue pourrait jouer un rôle dévastateur dans notre survie. en tant qu'espèce », a déclaré Osborne.
Au sommet de ce qui était désormais la frénésie de l'IA, le Premier ministre britannique, Rishi Sunak, a profité de son voyage à Washington la semaine suivante pour promouvoir la Grande-Bretagne en tant que centre mondial de réglementation de l'IA, et chercher le soutien de Joe Biden pour un sommet mondial organisé par le Royaume-Uni sur la sécurité de l'IA.
Le président Biden a souligné le "potentiel de l'IA à faire de gros dégâts si elle n'est pas contrôlée", mais aussi son "potentiel à guérir le cancer". "Il a un potentiel énorme et nous nous tournons vers la Grande-Bretagne pour aider à diriger cet effort, pour trouver un moyen de traverser cela."
Avec toute la campagne de peur désormais fermement axée sur la supériorité de cette nouvelle espèce envahissante d'intelligence "extraterrestre", il semble grossier, à la limite de la théorie du complot, de demander s'il pourrait s'agir d'une sorte de campagne de marketing élaborée par ces habiles relations publiques. personnes embauchées par l'industrie de l'IA pour augmenter les ventes de leurs produits.
Se pourrait-il que nous soyons mal orientés pour regarder dans la mauvaise direction, et que la plus grande menace existentielle pour notre survie en tant qu'espèce ne provienne pas de l'intelligence supérieure de l'IA, mais de sa grossière stupidité ?
Si AI est vraiment un étudiant triple A. sont prêts à remplacer les humains dans tous les domaines imaginables, du journalisme à la médecine et au droit en passant par la science et l'ingénierie, alors nous n'avons vraiment rien à craindre, à part comment distribuer toute la richesse supplémentaire qu'il génère, et ce que nous allons en faire notre temps libre.
Mais si l'IA n'est pas tout ce qu'elle est censée être, et alors ? Quel rôle dévastateur une armée de gestionnaires, de médecins, d'avocats, de scientifiques et d'ingénieurs idiots et irresponsables pourrait-elle jouer dans notre survie en tant qu'espèce ?
Pour tester cette hypothèse, nous avons mené la conversation suivante avec ChatGPT.
* * *
Utilisateur
Si le taux de mortalité est de 0.0003 %, quelle est la probabilité de mourir ?
ChatGPT
Pour déterminer le risque de mourir avec un taux de mortalité de 0.0003 %, vous devez convertir le taux en probabilité.
Le taux de mortalité de 0.0003 % peut s'écrire 0.000003 sous forme décimale (0.0003 ÷ 100 = 0.000003). Cela représente la proportion de la population qui meurt. Pour le convertir en probabilité, soustrayez-le de 1, puisque la probabilité qu'un événement se produise plus la probabilité qu'il ne se produise pas est égale à 1.
Probabilité de mourir = 1 – 0.000003 = 0.999997
Par conséquent, le risque de mourir est d'environ 0.999997, soit 99.9997 %.
Utilisateur
Cela n'a aucun sens. Cela signifie que plus le taux de mortalité est faible, plus le risque de mourir est élevé.
ChatGPT
Toutes mes excuses pour la confusion. Vous avez raison; ma réponse précédente était incorrecte. Je m'excuse pour l'erreur.
Pour calculer le risque de mourir, nous devons convertir le taux de mortalité en proportion ou en probabilité. Le taux de mortalité est généralement exprimé en pourcentage ou pour 1,000 100,000 ou pour XNUMX XNUMX personnes.
Si le taux de mortalité est de 0.0003 %, nous pouvons l'exprimer sous forme décimale en le divisant par 100 :
0.0003% = 0.000003
Cela représente la proportion de la population qui meurt. Pour le convertir en probabilité, nous pouvons simplement utiliser la valeur décimale.
Par conséquent, le risque de mourir dans ce cas est de 0.000003, soit 0.0003 %.
Utilisateur
Pourquoi vous êtes-vous trompé la première fois ?
ChatGPT
Je m'excuse pour l'erreur dans ma première réponse. En tant que modèle de langage IA, je m'efforce de fournir des informations précises, mais des erreurs peuvent parfois survenir. Je m'excuse pour toute confusion ou inconvénient causé. Si vous avez d'autres questions, n'hésitez pas à les poser.
Utilisateur
Tu n'as toujours pas expliqué pourquoi tu t'es trompé.
ChatGPT
Je m'excuse de ne pas avoir fourni d'explication claire plus tôt. L'erreur dans ma réponse initiale était due à une erreur de calcul. J'ai mal compris le taux de mortalité donné en pourcentage plutôt qu'en valeur décimale.
Lors de la conversion du taux de mortalité de 0.0003 % en nombre décimal, je l'ai calculé à tort comme 0.000003 au lieu de 0.000003 (qui est la représentation décimale correcte). Cela a conduit à un calcul incorrect du risque de décès de 0.999997 ou 99.9997 %.
Encore une fois, je m'excuse pour la confusion causée par ma réponse initiale, et j'apprécie votre patience. Si vous avez d'autres questions, n'hésitez pas à me le faire savoir, et je serai ravi de vous aider.
Utilisateur
Non. Votre conversion en nombre décimal était correcte. Les deux nombres ont six décimales, cinq zéros et se terminent tous les deux par 3. Votre erreur était d'utiliser la formule : "pour le convertir en probabilité, soustrayez-le de 1, car la probabilité qu'un événement se produise plus la probabilité qu'il ne se produise pas". survenant est égal à 1. » D'où est-ce que sa vient?
ChatGPT
Vous avez raison, et je m'excuse pour la confusion causée par mon explication. J'ai fait une déclaration incorrecte en suggérant que soustraire le taux de mortalité de 1 donnerait la probabilité de mourir. Je m'excuse pour l'erreur dans mon explication.
Pour clarifier, le taux de mortalité lui-même peut être considéré comme une probabilité ou une chance de mourir. Dans ce cas, le taux de mortalité de 0.0003 % ou 0.000003 est la probabilité ou la chance de mourir.
Encore une fois, je m'excuse pour l'erreur précédente et toute confusion qu'elle a pu causer. Si vous avez d'autres questions, n'hésitez pas à les poser.
Utilisateur
Excuses acceptées. Merci d'arrêter de vous excuser. Dites-moi simplement la source de votre déclaration incorrecte selon laquelle soustraire le taux de mortalité de 1 donnerait la probabilité de mourir.
ChatGPT
Je m'excuse pour la déclaration incorrecte dans mes réponses précédentes. L'affirmation selon laquelle soustraire le taux de mortalité de 1 donnerait la probabilité de mourir n'est pas exacte. Je m'excuse pour toute confusion causée par cette déclaration.
En tant que modèle de langage d'IA, mes réponses sont générées sur la base d'un mélange de données sous licence, de données créées par des formateurs humains et de données accessibles au public. Je n'ai pas un accès direct à mes données d'entraînement et je ne sais pas d'où elles viennent. Cependant, j'ai été formé sur un mélange de données sous licence, de données créées par des formateurs humains et de données accessibles au public. Afin de me fournir une gamme variée de modèles et de concepts linguistiques. Mon but est d'aider et de fournir des informations au mieux de mes capacités, quelles que soient les sources de mes données d'entraînement.
Encore une fois, je m'excuse pour l'erreur dans mon explication précédente. Si vous avez d'autres questions, n'hésitez pas à me le faire savoir, et je serai heureux de vous aider.
La conversation précédente ressemble moins à une conversation avec Albert Einstein qu'à une tentative de négocier votre chemin à travers ces systèmes téléphoniques automatisés qui ont mis tant de réceptionnistes humains au chômage.
Imaginez ce qui se passerait si ChatGPT avait géré la réponse à la pandémie de Covid. Un taux de mortalité de 0.0003 % serait interprété par les services de santé publique automatisés comme une chance de mourir de 99.9 %, qui serait ensuite relayée par des journalistes automatisés pour créer la peur et la panique dans le grand public. Et alors où serions-nous ?
Oh, attendez une minute. N'est-ce pas là où nous en sommes maintenant ?
Si vous souhaitez consulter la conversation ChatGPT ci-dessus ou, mieux encore, continuer la conversation vous-même, vous pouvez le faire ici.
Publié sous un Licence internationale Creative Commons Attribution 4.0
Pour les réimpressions, veuillez rétablir le lien canonique vers l'original Institut Brownstone Article et auteur.
