L'IA est omniprésente. Elle s'intègre à tout. C'est tout simplement le progrès, nous dit-on. Et par conséquent, nous devons l'adopter, de peur de passer pour des luddistes et de laisser la Chine l'emporter (quoi que cela signifie). Pourtant, simultanément, beaucoup de gens ont peur de l'IA. Très peur. Et parfois, on nous dit que nous devrions aussi avoir peur. Cependant, dans le discours public autour de l'IA, il manque souvent de précisions quant à ce qui, précisément, devrait nous effrayer. Parfois, le sens même du terme « IA » reste flou.
Techniquement parlant, comme je l'ai touché Auparavant, on pouvait affirmer (comme le font certains informaticiens plus âgés) que l'IA est un terme générique désignant une famille d'algorithmes basés sur des mathématiques qui remontent parfois à plus d'un demi-siècle.
En pratique, de nombreux programmes que nous utilisons depuis des années, comme Google Maps et le système de recommandation d'Amazon, peuvent être considérés comme de l'IA, malgré leur absence de nouveauté. Pourtant, dans le discours public, le terme IA tend à désigner l'IA générative (par exemple, ChatGPT), ainsi qu'une multitude de programmes futurs hypothétiques capables de faire tout ce que les humains font, mais en mieux. Ces programmes résoudront donc tous nos problèmes, tout en risquant de nous priver d'emploi, et pourraient même finir par se transformer en Skynet, à moins qu'ils ne jugent que nous ne valons pas la peine.
(Ça a l'air plutôt sexy. Peut-être que quelqu'un devrait en faire une série de films. Peut-être que deux films sur cinq plairont même au public.)
Malheureusement, ces représentations hyperboliques et dignes de la science-fiction des menaces posées par l'IA ont tendance à capter davantage l'attention que les menaces plus réalistes et plus imminentes qui touchent à la vie privée, à la liberté, à l'autonomie, voire à un mode de vie que beaucoup d'entre nous apprécient, et à détourner l'attention de celles-ci. Automatique Licence plaque lecteurs, la reconnaissance faciale, grand-mères numériques, conduite en état d'ivresse et avec distraction obligatoires programmes de détection, n'importe laquelle des technologies dont «petit-fils» parlait à grands cris dans «Robot de livraison autonome," et dispositifs d'enregistrement portables Les systèmes qui transcrivent et traitent les conversations en face à face pour les personnes asociales et facilement distraites ne sont que quelques-unes des menaces les plus réalistes qui me viennent à l'esprit. (Et cette liste est loin d'être exhaustive).
Par conséquent, j'apprécie généralement que les membres de notre classe dirigeante prennent une matinée pour avoir une conversation mesurée sur les menaces relativement bien définies que représente cette technologie (ou cet ensemble de technologies), comme cela a été fait le 4 juin lors de la réunion de la sous-commission de la Chambre des représentants des États-Unis sur la cybersécurité et la protection des infrastructures. réunion sur le « paysage de la sécurité de l'IA ».
En apparence, la discussion de la réunion pourrait probablement se résumer à la question suivante : « La plus grande menace posée par l'IA est-elle externe, sous la forme de pirates informatiques étrangers cherchant à exploiter les vulnérabilités des logiciels contrôlant les infrastructures critiques des États-Unis, ou interne, née du manque de réglementation et de responsabilité quant à l'utilisation de l'IA sur le territoire national ? »
En observant la discussion, il semblait toutefois moins s'agir d'un choix entre deux options (« l'un ou l'autre ») que d'une réponse incontestée du type « Oui et… ».
Sandra Joyce de Google, Chris Meserole, directeur exécutif du Frontier Model Forum, et Jack Cable, PDG et cofondateur de Corridor Security Inc., ont témoigné sur la manière dont l'IA transforme le paysage de la cybersécurité, les armes numériques tombant entre les mains des cyber-barbares aux portes de nos frontières, qui les utiliseront pour trouver des vulnérabilités dans nos infrastructures critiques et/ou lancer des attaques de ransomware.
« Cette technologie a profondément transformé la cybersécurité, tant pour le défenseur que pour l'attaquant », a déclaré Joyce.
« Les pirates informatiques disposent d’outils plus puissants que jamais », a fait remarquer Cable, citant notamment Mythos et GPT-5.5.
« Ces modèles ne sont pas qu'un simple effet de mode », a-t-il averti. « Ils commencent véritablement à rivaliser avec les humains, voire à les surpasser, dans les tâches de sécurité, et ce à une échelle sans précédent. »
Joyce a suggéré que les « acteurs malveillants » n'ont même pas besoin d'un logiciel comme Mythos et peuvent être tout à fait capables de causer beaucoup de dégâts avec un programme plus ancien.
Soulignant les menaces internes, Matthew Guariglia, analyste politique principal de l'Electronic Frontier Foundation, a déclaré : « La question n'est pas de savoir comment maîtriser l'IA, mais comment maîtriser les agences qui voudraient déchaîner l'IA sur le public américain. »
Dans son témoignage, Guariglia a souligné comment l'appareil de sécurité nationale américain utilise déjà divers outils qui collectent des données sur les individus sans motif valable et qui peuvent tirer des « conclusions sur les opinions politiques, la vie personnelle, la religion et la géolocalisation d'une personne, parfois de manière inexacte et avec des conséquences majeures ».
Par ailleurs, Guariglia a déclaré : « L'IA a également la fâcheuse tendance à se tromper, que ce soit par des citations erronées dans des mémoires juridiques ou par une grave erreur qui a envoyé des recrues du DHS sur le terrain sans formation adéquate. »
« Il existe probablement d'autres exemples importants dont nous n'avons même pas connaissance en raison de classifications qui empêcheraient un recensement plus exhaustif », a-t-il ajouté.
De même, la députée Delia Ramirez (D-IL) a observé : « Nous assistons à la propagation de systèmes de surveillance basés sur l'IA dans les écoles, les logements sociaux et les hôpitaux, sans aucune transparence sur leur fonctionnement, sans possibilité de les contester et sans recours lorsqu'ils se trompent. »
Lors d'un échange ultérieur concernant un scénario possible dans lequel un programme d'IA désignerait l'approvisionnement en eau d'une ville comme compromis alors qu'il est en réalité en parfait état et restreindrait par conséquent l'accès à l'eau pour les habitants de la ville, Guariglia et Ramirez ont suggéré que, dans le cadre de la législation américaine actuelle, la transparence quant à la manière dont le problème est survenu serait probablement laissée à la discrétion de la ville mettant en œuvre le système, tandis que la question de savoir qui peut être tenu responsable reste plutôt floue.
Bien que moins spectaculaires que de combattre des T-800 dans les rues pour nos vies et nos moyens de subsistance, les attaques de rançongiciels plus fréquentes, l'érosion croissante de notre vie privée et le manque de transparence et de responsabilité lorsque HAL commet une erreur et coupe l'eau à tout le monde sont autant de sujets préoccupants, même s'ils ne justifient pas encore une hystérie collective ni une franchise cinématographique. Ils sont peut-être même suffisants pour susciter des inquiétudes légitimes quant à la situation actuelle. Zeitgeist Intégrer l'IA partout. Et peut-être, qui sait, cela nous incitera-t-il à reconsidérer notre décision de connecter tous les aspects de la vie moderne à Internet.
Rejoindre la conversation:
Publié sous un Licence internationale Creative Commons Attribution 4.0
Pour les réimpressions, veuillez rétablir le lien canonique vers l'original Institut Brownstone Article et auteur.
