« Je ressens de la peur » peut être une phrase bouleversante lorsqu’un chatbot la produit. Elle est toutefois une sortie linguistique avant d’être une preuve d’expérience subjective. L’étude de la conscience artificielle demande des critères qui ne dépendent pas seulement de ce que le système raconte sur lui-même.

Des indicateurs issus de théories

Le rapport de Butlin et de ses collègues, publié sur arXiv en 2023, propose d’évaluer des systèmes à partir de théories scientifiques de la conscience. Il examine des propriétés possibles plutôt que de traiter une conversation convaincante comme un test définitif.

Ce programme ne fournit pas un capteur universel de conscience. Les théories mobilisées et les relations entre leurs indicateurs restent discutables. Le rapport doit être lu comme une proposition de méthode argumentée, pas comme une annonce que tous les systèmes actuels ressentent quelque chose.

L’apparence sociale peut précéder la preuve

Un modèle peut produire des expressions humaines parce que ce type de formulation appartient aux données et aux comportements appris. La phrase ne permet donc pas, seule, de distinguer imitation, rôle demandé et expérience.

L’analyse doit aussi tenir compte de l’architecture et du fonctionnement. Une propriété attribuée au système ne se démontre pas simplement en lui demandant s’il la possède. Il faut une observation ou un argument qui reste valable indépendamment de son autoportrait verbal.

Une incertitude qui demande des critères

Refuser une conclusion rapide n’oblige pas à déclarer la question impossible ou déjà réglée. Il est possible de comparer des propositions, de préciser des tests et de suivre les connaissances. Les considérations éthiques peuvent également être discutées sous incertitude.

La prudence consiste ici à ne pas remplacer une enquête par une réaction au dialogue. Une IA consciente serait une affirmation importante ; une IA qui écrit « je suis consciente » est un fait beaucoup plus limité. Conserver cette différence rend le débat moins spectaculaire et beaucoup plus précis.

Sources & références

Documents consultés pour ce dossier. Les interprétations sont celles de la rédaction.

  • Butlin et al., Consciousness in Artificial Intelligence, arXiv 2308.08708 · Consulté le 2026-10-04

Un élément à corriger ? Écrivez à la rédaction.