Une machine qui décide de se retourner contre les humains : le scénario de Terminator donne un visage spectaculaire aux inquiétudes sur l’intelligence artificielle. Il peut ouvrir une discussion utile. Il devient trompeur lorsqu’une scène de fiction sert de preuve à un projet secret ou à une catastrophe annoncée.

Skynet est un récit, pas un dossier de preuves

Dans l’univers de Terminator, Skynet incarne une intelligence militaire qui échappe au contrôle de ses créateurs. Cette image rassemble plusieurs peurs : la délégation des décisions, la puissance des systèmes techniques et l’impossibilité de reprendre la main. Une comparaison cinématographique ne permet pourtant pas de déduire les capacités d’un système réel.

Avant de partager une annonce sur un « vrai Skynet », trois questions changent la lecture : quel système est nommé, que fait-il précisément et quel document permet de vérifier cette description ? Une démonstration de robot, un modèle de langage et un dispositif militaire ne sont pas interchangeables.

Les armes autonomes posent une question concrète de contrôle

Le Comité international de la Croix-Rouge examine les systèmes capables de sélectionner et d’appliquer la force à des cibles sans intervention humaine dans ces fonctions. Sa position porte sur les conséquences de cette autonomie et sur la nécessité de préserver le contrôle humain. Il ne présente pas une révolte des machines comme un fait établi.

Pour lire une information sur ces projets, il faut identifier la tâche confiée au logiciel et les possibilités de supervision. Reconnaître un objet, recommander une action et déclencher une action sont des fonctions différentes. Demander qui autorise, qui peut interrompre et qui répond d’une erreur rend le débat plus précis.

Une erreur d’IA ne prouve pas une intention cachée

Le NIST propose un cadre volontaire de gestion des risques de l’IA et un profil consacré à l’IA générative. Ces documents invitent à examiner les systèmes dans leurs conditions d’utilisation. Ils fournissent des repères pour l’évaluation ; ils ne garantissent pas qu’un produit serait sûr dans toutes les situations.

Une réponse inventée, une image trompeuse ou un mauvais classement peuvent avoir des effets sérieux. Leur existence ne suffit pas à démontrer une volonté consciente de nuire. Pour soutenir une accusation de manipulation organisée, il faut documenter des acteurs, des décisions et des mécanismes, puis confronter l’hypothèse aux autres explications.

Les visions du futur doivent montrer leurs hypothèses

Un scénario peut être utile sans être une prévision. Il permet d’explorer ce qui se passerait si certaines capacités progressaient, si des protections échouaient ou si des institutions déléguaient davantage de décisions. Sa valeur tient à la clarté de ces conditions et à la manière dont elles peuvent être discutées.

Dans cette rubrique, nous examinerons les récits de surveillance totale, les deepfakes, les promesses de superintelligence et les imaginaires de machines hors de contrôle. Les dossiers distingueront ce qui est observé, ce qui est annoncé et ce qui reste hypothétique. Le futur mérite des questions précises avant des certitudes spectaculaires.

Sources & références

Documents consultés pour ce dossier. Les interprétations sont celles de la rédaction.

  • CICR — Position sur les systèmes d’armes autonomes
  • NIST — AI Risk Management Framework

Un élément à corriger ? Écrivez à la rédaction.