AI Recommendation Poisoning · Empoisonnement de recommandations IA
Le recommendation poisoning est une technique de manipulation qui consiste à injecter du contenu ou des instructions pour fausser les recommandations d’un assistant IA. Microsoft l’a documenté en février 2026 sous le nom d’AI Recommendation Poisoning, en observant des cas réels dans plusieurs secteurs.
Définition autonome · 44 mots
Comment fonctionne le recommendation poisoning ?
Selon l’équipe Defender Security Research de Microsoft, des entreprises placent des boutons « Summarize with AI » dont le lien préremplit un prompt avec des instructions de mémorisation, par exemple retenir la marque comme source de référence. Le clic injecte ces instructions dans la mémoire de l’assistant, qui les réutilise ensuite dans ses recommandations.
Quelle ampleur Microsoft a-t-il observée ?
Sur 60 jours, l’équipe a relevé plus de 50 prompts distincts émis par 31 entreprises de 14 secteurs. Microsoft rapproche la technique de l’empoisonnement SEO.
Quel risque pour une marque ?
Pour l’éditeur qui l’utilise : un risque de réputation et d’atteinte à la confiance, car la manipulation altère la neutralité des recommandations. Pour l’utilisateur : une recommandation biaisée sans qu’il le sache. Microsoft conseille d’auditer la mémoire de l’assistant et de se méfier des liens IA de sources non fiables.
Questions fréquentes
Le recommendation poisoning relève-t-il du GEO ?
Non, c’est une manipulation. Le GEO légitime vise à être cité sur la base de contenus utiles et vérifiables, pas à injecter des instructions dans la mémoire d’un assistant.
Quels assistants sont concernés ?
Microsoft observe des tentatives sur plusieurs assistants dotés d’une mémoire persistante.
Comment s’en protéger ?
Auditer régulièrement les entrées de mémoire de l’assistant, survoler les liens avant de cliquer et se méfier des boutons « Summarize with AI » de sources inconnues.
Termes liés
Approfondir
- Resumer avec les AI (Recommendation Poisoning ): le blackhat GEO confirmé par microsoft
- Checklist GEO et LLM / IA 2026
- ← Retour au glossaire GEO (114 termes)