Demandez à un assistant pourquoi il a répondu ainsi : il peut produire une explication convaincante. Cette explication est elle-même une réponse générée. Pour étudier le fonctionnement du modèle, les chercheurs cherchent aussi des traces dans ses mécanismes internes. C’est l’un des objectifs de l’interprétabilité.

Observer une partie du calcul

Les recherches d’Anthropic sur le traçage des modèles présentent des méthodes pour relier certaines caractéristiques internes à des comportements. Ces travaux sont publiés par le développeur des modèles étudiés. Ils offrent des pistes et des outils, avec des limites, plutôt qu’une traduction complète de chaque réponse en raisonnement humain.

Une représentation interne peut être liée à plusieurs usages. L’étiquette que lui donnent les chercheurs est une interprétation destinée à faciliter l’analyse. Elle ne transforme pas une activation numérique en pensée consciente, ni en intention morale.

Une explication doit pouvoir être mise à l’épreuve

Une comparaison utile consiste à distinguer trois documents : la réponse du modèle, son commentaire sur cette réponse et une expérience qui modifie un mécanisme interne pour observer l’effet produit. Ces documents ne possèdent pas la même valeur explicative.

Dans un exemple fictif, un assistant assure avoir calculé un résultat alors qu’il a reconnu une formulation déjà rencontrée. Son explication verbale ne tranche pas le mécanisme réel. Une intervention contrôlée et répétée peut apporter davantage d’informations. Cela ne résout pas toutes les questions sur la boîte noire : certaines observations restent partielles et dépendent de la méthode choisie. Avant d’affirmer qu’un laboratoire a « lu les pensées d’une IA », il faut préciser ce qui a effectivement été observé, sur quel modèle et avec quelle incertitude.

Sources & références

Documents consultés pour ce dossier. Les interprétations sont celles de la rédaction.

  • Anthropic, Tracing the thoughts of a large language model · Consulté le 2026-10-05

Un élément à corriger ? Écrivez à la rédaction.