Cascading hallucination · Erreur propagée entre agents IA
Une hallucination en cascade se produit quand une erreur inventée par un agent IA est reprise par un autre agent, puis présentée comme un fait dans la réponse finale. Dans les systèmes multi-agents, l’erreur gagne en crédibilité à chaque étape.
Définition autonome · 40 mots
Comment se produit une hallucination en cascade
Un orchestrateur confie des sous-tâches à plusieurs agents (recherche, résumé, comparaison). Si un sous-agent invente un chiffre ou une source, l’orchestrateur le reçoit comme une donnée et le reformule proprement. Dan Petrovic (DEJAN) parle d’une erreur « blanchie » par la chaîne.
Pourquoi l’hallucination en cascade concerne les marques
Avec le deep search et les agents, une fausse info sur un prix, une fonctionnalité ou un avis peut se retrouver dans un rapport final très sûr de lui. L’OWASP classe d’ailleurs les « cascading hallucination attacks » parmi les menaces des systèmes agentiques.
Comment limiter le risque d’hallucination en cascade
Côté marque : publier des faits clairs, datés et faciles à extraire (prix, specs, FAQ), pour que les agents aient une source fiable. Côté équipe : vérifier les rapports IA à la source avant de les réutiliser.
Questions fréquentes sur Hallucination en cascade
Quelle différence avec une hallucination simple ?
Une hallucination simple vient d’un seul modèle. En cascade, l’erreur passe d’un agent à l’autre et devient plus difficile à repérer.
Le deep search est-il concerné ?
Oui, c’est un des cas typiques, car il enchaîne beaucoup de sous-recherches et de résumés.
Termes liés à Hallucination en cascade
Approfondir : Hallucination en cascade
Sources de la définition Hallucination en cascade
- OWASP GenAI Security Project, « Agentic AI: Threats and Mitigations » (2025)
- Dan Petrovic (DEJAN), analyse des erreurs dans les systèmes multi-agents (2025)