Injection de prompt : comment un document peut détourner un assistant IA
Injection de prompt indirecte : le risque vient des documents lus par l’assistant. Comprendre la frontière entre une information et une instruction.
Terminator, intelligence artificielle, contrôle et scénarios du futur.
Injection de prompt indirecte : le risque vient des documents lus par l’assistant. Comprendre la frontière entre une information et une instruction.
Effondrement des modèles : comprendre les expériences sur les données synthétiques, leurs conditions et les limites d’une généralisation à toutes les IA.
Jailbreak des IA : ce que montre une étude sur les attaques transférables et pourquoi un contournement n’établit pas une conscience cachée.
Boîte noire des IA : ce que l’interprétabilité cherche à expliquer et pourquoi la justification donnée par un assistant n’est pas une trace complète du calcul.
Agents IA : identité, autorisations et accès aux outils. Comprendre pourquoi un assistant capable d’agir exige des limites explicites.
AI 2027 : lire les hypothèses, les deux fins et les dates d’un scénario prospectif, sans présenter le récit comme un futur établi.
Deepfakes : provenance, vérification indépendante et outils de détection. Pourquoi une anomalie visuelle ou un score ne suffit pas à trancher.
Une IA peut produire une fausse réponse assurée sans que cela démontre une conscience. Confabulation, tromperie et contexte d’évaluation.
Armes autonomes : la question du contrôle humain se pose sans attendre Terminator. Définition du CICR et différence entre automatisation et responsabilité.
Le maximiseur de trombones est une expérience de pensée sur les objectifs d’une IA. Pourquoi l’exemple ne décrit pas un robot réellement découvert.
Une IA qui affirme être consciente ne le prouve pas. Les recherches proposent des indicateurs liés à des théories, avec des incertitudes explicites.
Biais de reconnaissance faciale : faux positifs, faux négatifs et contexte d’usage. Pourquoi une précision globale peut masquer des différences importantes.
Caméras algorithmiques : détecter un mouvement n’est pas reconnaître une identité. Les fonctions, les données et les usages déterminent l’enquête.
Faux alignement des IA : une expérience d’Anthropic examine un comportement sous conditions. Ce qu’elle montre et pourquoi elle ne prédit pas toute action.
Transhumanisme : aspirations technologiques, dispositifs existants et promesses doivent être séparés. Une déclaration de mouvement n’est pas un calendrier scientifique.
Skynet, armes autonomes et contrôle humain : une méthode pour examiner les scénarios sans les confondre avec des preuves.