Une IA apprend sur des textes produits par une autre IA, puis ses propres textes alimentent la génération suivante. Que devient la diversité des réponses ? Une étude publiée dans Nature en 2024 examine ce processus récursif. Le terme « effondrement des modèles » décrit une dégradation observée dans certaines conditions expérimentales.

Les cas rares peuvent disparaître

Shumailov et ses coauteurs étudient plusieurs types de modèles. Dans leurs expériences, réutiliser sans précaution des données générées peut faire perdre les parties moins probables de la distribution initiale. Une correction de l’article a été publiée en 2025 ; le dossier doit être lu dans sa version corrigée.

Ce résultat porte sur une manière précise de construire les générations successives. Il ne permet pas de conclure que toute donnée synthétique est inutile, ni que tous les modèles déployés aujourd’hui vont s’effondrer. La sélection des données, la conservation de données originales et les objectifs d’apprentissage changent la question.

Un exemple pour comprendre la perte de diversité

Imaginons, à titre d’analogie, un guide de promenade régulièrement réécrit à partir du guide précédent. Les chemins très fréquentés sont souvent décrits ; une petite bifurcation rare risque de disparaître au fil des versions. Le guide peut rester fluide et lisible tout en représentant moins bien le terrain.

Pour une IA, la qualité d’écriture ne suffit donc pas à mesurer la couverture des situations. Un test pertinent doit conserver des exemples indépendants, dont des cas inhabituels. Il faut aussi demander quelle proportion des données provient de générations antérieures et comment les erreurs sont corrigées. Ce sujet rejoint le biais algorithmique, mais les mécanismes ne sont pas identiques : ici, le problème étudié concerne la transmission d’une distribution à travers des données produites par les modèles eux-mêmes.

Sources & références

Documents consultés pour ce dossier. Les interprétations sont celles de la rédaction.

  • AI models collapse when trained on recursively generated data | Nature · Consulté le 2026-10-05

Un élément à corriger ? Écrivez à la rédaction.