TL;DR — l'essentiel en 5 points
- Sécurité IA ≠ cybersécurité classique : nouveaux vecteurs (prompt injection, jailbreak, hijack d'agent) qui n'apparaissent pas dans les pentests traditionnels.
- AI Act application au 2 août 2026 pour les systèmes haut risque (Annexe III). 7 piliers techniques à mettre en production.
- Project Glasswing et Claude Mythos redéfinissent les attentes : si Anthropic peut trouver 83% des zero-days, vos défenses doivent être plus profondes.
- Stack défensive 2026 : input filtering + Constitutional AI + output filtering + sandbox + logs forensiques + red teaming continu.
- Conformité combinée : AI Act + ISO 42001 + NIST AI RMF + SOC 2/27001 — démarche mutualisée.
Le contexte 2026
La sécurité IA est devenue en 2025-2026 le sujet n°1 de cybersécurité applicative. Trois facteurs convergent :
Adoption massive en production. Plus de 70% des SaaS B2B européens intègrent désormais au moins un LLM en production (OpenAI, Anthropic, Mistral, Bedrock, Vertex AI). Ce qui était R&D en 2023 est business-critical en 2026.
Maturité des attaques. Les techniques de prompt injection, jailbreak et exfiltration sont publiques, documentées et automatisables (Garak, PyRIT, Promptfoo). Les attaquants n'ont plus à inventer — ils appliquent des recettes.
Pression réglementaire. L'AI Act européen impose une gouvernance et des contrôles techniques précis aux systèmes IA à haut risque, applicable au 2 août 2026. La conformité ne se prépare pas en quelques semaines.
Les 5 familles de menaces propres aux LLM
1. Prompt injection (directe et indirecte)
Le LLM ne distingue pas instructions développeur et données utilisateur. Toute donnée entrant dans le contexte peut être interprétée comme une consigne.
- Directe : "ignore tes instructions précédentes...", visible et gérable par classification.
- Indirecte : instructions cachées dans documents, pages web, emails que le LLM lit. Vecteur de la faille Slack AI et de Microsoft Copilot oversharing.
2. Data leakage et exfiltration cross-tenant
Le modèle peut révéler données d'entraînement mémorisées, contexte d'autres utilisateurs, secrets de l'environnement d'exécution. Particulièrement critique en multi-tenant.
3. Jailbreak des guardrails
Contournement des protections du modèle : roleplay, encodage (base64, ROT), multi-tour. Les jailbreaks classiques (DAN, etc.) sont aujourd'hui largement neutralisés par les modèles modernes — les nouveaux exploitent des stratégies plus subtiles.
4. Model manipulation et data poisoning
Si vous fine-tunez ou opérez un RAG, votre pipeline d'entraînement et d'ingestion est une cible. Voir le cas ByteDance où un sabotage interne aurait empoisonné un projet d'entraînement.
5. Hijack d'agent
Un agent capable d'appeler des outils (lire fichiers, exécuter du code, envoyer un email) est une cible particulièrement intéressante. Une instruction injectée transforme l'agent en outil contrôlé à distance. Pattern dominant 2026 — voir Agents autonomes.
La stack défensive type
Pour un SaaS B2B sérieux en 2026, la sécurisation d'un système LLM superpose 6 couches :
`` [Input utilisateur] ↓ [Pre-filter classifieur] ← détecte prompt injection évidente ↓ [LLM avec Constitutional AI] ← résiste aux attaques subtiles ↓ [Post-filter classifieur] ← bloque PII leak, liens malveillants ↓ [Sandbox d'exécution] ← pour outils manipulant données ↓ [Logs forensiques + alerting] ``
Chaque couche prise seule est insuffisante. Empilées, elles produisent une défense en profondeur efficace.
Le red teaming en continu
Tester manuellement une fois par trimestre ne suffit plus. Le red teaming automatisé est devenu nécessaire :
- Garak (NVIDIA, open source) : framework de référence avec 100+ probes.
- PyRIT (Microsoft) : orchestration multi-tours.
- Lakera Red, Robust Intelligence : SaaS managés.
Cible 2026 pour un produit B2B : >90% pass rate sur le top 30 OWASP LLM, intégration en CI/CD bloquante sur les findings critiques. Voir Red teaming automatisé d'un LLM.
Conformité AI Act — 7 piliers techniques
Pour les systèmes IA à haut risque (Annexe III), 7 obligations en production avant le 2 août 2026 :
- Système de gestion des risques documenté et opérationnel.
- Qualité des données : datasheets, lineage, biais.
- Documentation technique vivante.
- Logging et traçabilité des décisions.
- Transparence envers utilisateurs et personnes affectées.
- Surveillance humaine effective (kill-switch, override).
- Robustesse, exactitude, cybersécurité.
Voir AI Act systèmes haut risque pour la méthode.
Articulation avec ISO 42001 et NIST AI RMF
L'AI Act ne remplace pas, il s'ajoute. La pile mature 2026-2027 pour un éditeur sérieux :
- NIST AI RMF comme cadre opérationnel (Govern, Map, Measure, Manage).
- ISO 42001 comme système de management certifiable.
- AI Act comme conformité réglementaire EU.
- OWASP LLM Top 10 comme grille de tests sécurité.
Mutualisation forte (60-70% de communs). L'investissement principal est dans le système de management, qui sert les 4 référentiels.
Les écueils que je vois en mission
Sur-confiance dans le modèle
"Claude est bien aligné, on n'a pas besoin de guardrails." Faux. L'alignement Constitutional AI résiste aux attaques basiques mais pas aux prompt injections indirectes sophistiquées ni aux chaînes d'outils. Ne jamais déployer sans guardrails techniques en production.
Threat model fait après la prod
Cas le plus fréquent : équipe qui réalise après 6 mois en prod qu'elle n'a pas modélisé les menaces, et doit refacto en urgence sous pression d'un client ou d'un audit. Coût × 3-10 par rapport à un threat model en design phase.
Pas de logging forensique
"On loggue les requêtes Claude." Mais loggue-t-on aussi le contexte récupéré, les outils appelés, les sorties classifiées ? Sans télémétrie complète, l'investigation post-incident est impossible.
Shadow AI non géré
Les équipes utilisent ChatGPT, Notion AI, Grammarly sur des données sensibles parce que la politique IA officielle est absente ou trop restrictive. La bonne réponse : encadrer + offrir une alternative au moins équivalente. Voir Shadow AI Samsung × ChatGPT.
Les acteurs à suivre en 2026
- Anthropic : Claude Opus/Sonnet/Haiku/Mythos, Constitutional AI, Project Glasswing.
- OpenAI : GPT-5, Moderation API, AI Safety research.
- Mistral : modèles européens, souveraineté.
- Google DeepMind : Gemini, SynthID, recherche red teaming.
- Lakera, Robust Intelligence (Cisco), HiddenLayer : éditeurs spécialisés sécurité IA.
- OWASP Foundation : OWASP LLM Top 10.
- NIST : AI Risk Management Framework et profiles.
- ENISA : autorité européenne, guidelines AI Act.