Incident sécurité IA — détection et gestion sur les 72 premières heures
Quand un incident touche un système IA, le runbook classique ne suffit pas. Voilà la procédure 72h que je pose en mission, du déclenchement à la communication régulateur.
Articles sur la sécurité IA, le DevSecOps, les certifications ISO 27001 et le réglementaire (CRA, AI Act, NIS2, DORA). Mise à jour continue, écrits depuis le terrain.
Quand un incident touche un système IA, le runbook classique ne suffit pas. Voilà la procédure 72h que je pose en mission, du déclenchement à la communication régulateur.
La politique secure coding classique ne couvre pas les bugs propres au code qui appelle des LLM. Voilà ma checklist 24 points à intégrer dans la politique dev pour fermer la dette LLM.
Quatre cadres qui se recouvrent partiellement. Comment je structure une cartographie unique pour ne pas faire le travail trois fois, et tenir face aux quatre auditeurs sans rougir.
La sécurité IA ne se finance pas sans reporting lisible. Trois formats, trois audiences, douze KPI utiles, sans bullshit indicateur.
Les permissions natives des CRM majeurs sont conçues pour des humains, pas pour des agents qui lisent 50 000 fiches par heure. Les 5 risques que les RBAC standards ne couvrent pas.
Ajouter un agent IA à un SaaS B2B peut faire basculer votre produit dans le périmètre CRA. Comment le détecter, ce que ça implique, et le piège qu'on voit le plus.
Vous pensiez être hors scope. Un client vous demande votre conformité AI Act haut-risque. Plan d'action concret pour les 30 prochains jours sans tout casser.
Le bon programme red teaming IA combine campagnes ponctuelles et tests continus en CI. Voilà comment je structure les deux et comment je remonte les résultats à un comex.
Le code généré par agent passe les tests, mais cache des défauts spécifiques que SAST classique ne voit pas. Les 8 patterns qu'on cherche en audit en 2026.
Les agents qui contrôlent l'écran d'un collaborateur sont entrés en interne en 2025-2026. Plan 30 jours pour les encadrer avant qu'ils ne créent un incident.
Le DG vous demande un point cyber/IA pour le comex de la semaine. Vous avez 2 heures. Structure de slides, chiffres à sortir, posture à tenir.
Boucle infinie, action irréversible, fuite de données, prompt injection en cascade. Chiffrage observé sur 12 incidents agents IA en mission, pour qu'un comex sache de quoi on parle.
Marquage CE refusé, amendes jusqu'à 2,5% du CA mondial, retrait du marché EU. Chiffrage réaliste pour une PME éditrice de 50 personnes, ligne par ligne.
Le DPA standard d'un éditeur LLM ne couvre pas vos vrais risques. Les 7 clauses qu'on négocie systématiquement en mission avant de laisser un client signer.
Un agent IA qui décide, classe ou agit sur des personnes physiques déclenche presque toujours une DPIA. Structure du livrable, sections obligatoires, points d'attention spécifiques à l'IA.
Un éditeur vous propose un agent IA prêt à brancher dans votre SI. Avant de signer, 35 questions qui font la différence entre une intégration propre et un incident à 6 chiffres.
Trois certifications, trois logiques différentes, trois budgets, trois publics. Matrice de décision pour ne pas certifier la mauvaise.
Trois référentiels demandent des logs d'agent IA, sur des angles différents. Schéma unifié de log qui satisfait les trois, applicable en moins d'une semaine.
Passer d'un chatbot qui répond à un agent qui agit, c'est multiplier la surface d'attaque par 10. Les 8 garde-fous non négociables avant d'ouvrir aux premiers utilisateurs réels.
Anthropic, OpenAI, Mistral tombent quelques heures par an. Votre produit dépend d'eux. Plan de continuité concret, sans réécrire toute l'archi.
Un pentest classique ne teste pas un agent IA. Ce qu'il faut vraiment commander, à qui, pour combien — comparatif honnête des cabinets EU et US qui le font bien.
73% des PME que je vois en mission ont des agents IA en interne sans politique écrite. Structure complète d'une politique qui tient en 12 pages, validée par DPO et juristes.
Recevoir un questionnaire de 250 questions à 18h le vendredi avec deal qui se signe le mercredi suivant. Workflow et pièges à éviter quand on n'a ni RSSI ni knowledge base prête.
À quoi ressemble vraiment un mois 1 quand vous prenez un RSSI fractionné. Livrables, jalons, et les pièges qui font qu'à mois 3 on ne sait toujours pas par où commencer.
Un développeur a poussé une clé AWS sur un repo public. Vous le découvrez à 22h. Plan d'action heure par heure pour limiter la casse avant le réveil de l'attaquant.
Quatre contraintes en plus quand on déploie un assistant IA dans la santé, le juridique, la banque : secret professionnel, traçabilité, auditabilité, explicabilité. Comment les tenir sans plomber le produit.
Le RAG est devenu un standard d'architecture, mais c'est aussi la première source de fuite cross-tenant que je vois en mission. Les contrôles concrets que je pose pour un RAG sérieux.
Le cycle de vie ML a 6 phases. Chacune a ses contrôles sécurité spécifiques. Voilà la grille que j'utilise quand je cadre un programme sécurité IA structurel chez un client.
Un agent IA a une identité, des droits, des actions. C'est une NHI (non-human identity) à part entière. Comment je structure l'IAM agent + contrôle d'autonomie sans freiner la productivité.
MCP est en train de devenir le bus standard entre agents et outils. Conséquence : c'est un nouveau plan de contrôle critique. Sept contrôles que je pose systématiquement quand un client déploie MCP en prod.
STRIDE est connu mais ne couvre pas la surface IA. ATLAS couvre la surface IA mais n'a pas la structure STRIDE. Comment je les combine en pratique sur une mission threat modeling.
Deux référentiels qui se complètent : un cadre de gouvernance et un catalogue d'attaques. La méthode pour les combiner sans dupliquer le travail.
Le SAST ne voit pas les vrais bugs d'une app LLM. Les 18 points que je passe systématiquement en revue de code quand l'app intègre un LLM ou un agent.
ASVS est conçu pour les apps web classiques. Voilà comment je l'adapte à une app LLM en gardant la rigueur du référentiel sans ajouter de contrôle déconnecté du réel.
Les 10 risques du référentiel OWASP LLM. Pour chacun, le contrôle que je pose en mission et comment je le vérifie. Pas de théorie — du défendable.
Comparatif détaillé des 5 outils SAST dominants en 2026 : Checkmarx, Semgrep, SonarQube, Snyk Code, Fortify. Couverture langages, faux positifs, intégration CI/CD, ASVS, ISO 27001, prix.
Deux attaques silencieuses sur les modèles ML/LLM en prod. Ce qu'elles font, pourquoi elles passent sous les radars, et les contrôles concrets que je pose en mission.
25 000 $ pour 5 Go de code interne d'un licorne IA. Le prix est volontairement bas. Décrypter la mécanique de l'extorsion et la grille de décision côté victime.
Le fleuron français a fuité par une dépendance JS américaine. La souveraineté du modèle ne suffit pas si la chaîne d'outils ne l'est pas.
450 dépôts privés, 5 Go de code interne sortis par une bibliothèque front contaminée. Ce que l'incident Mistral dit de votre propre chaîne de dépendances.
5 Go de code interne Mistral dans la nature, dont le module billing et le customer management. Si vous avez signé un DPA avec Mistral, voici ce que vous devez faire maintenant.
Un agent qui agit dans le SI a une surface d'attaque qu'aucun outil de pentest classique ne couvre. Voici les 7 surfaces à cartographier avant la mise en prod.
Le pipeline MLOps a sa propre surface d'attaque, et elle est rarement couverte par le DevSecOps classique. Sept points de contrôle, du dataset au déploiement modèle, pour fermer les vrais trous.
Sept solutions de détection prompt injection en production, ce qu'elles font vraiment, leurs faux positifs, leur coût. Mon comparatif honnête après 6 déploiements sur 2025-2026.
La sortie d'un outil que l'agent appelle peut contenir des instructions malicieuses. Le risque dépasse les documents RAG. Anatomie et défenses.
Le worm Shai-Hulud a contaminé plus de 300 packages npm et 2 PyPI entre le 29 avril et le 11 mai 2026. Anatomie technique et ce que ça change pour vos pipelines.
Trois couches de défense techniques pour limiter ce qu'un agent peut faire quand il dérape. Architecture concrète, pas théorique.
Le worm Shai-Hulud a empoisonné le cache GitHub Actions pour injecter du code malicieux dans des builds CI/CD légitimes. Mécanique et défense.
Cinq familles d'outils, cinq décisions d'intégration CI/CD. La stack que je déploie sur les pipelines des PME et scale-ups que j'accompagne — sans les pièges classiques.
Six outils que je vois revenir dans les programmes AI red teaming sérieux. Ce que chacun fait vraiment, où il est faible, et comment les combiner sans payer trois fois la même couche.
Le déclencheur pull_request_target donne des secrets de prod à du code venant d'un fork. La majorité des repos ne se rendent pas compte qu'ils sont exposés.
Les systèmes multi-agents introduisent un risque absent du single-agent : la propagation d'une instruction malicieuse entre agents. Architecture défensive.
Claude Code, Cursor agents, Devin et leurs cousins ont accès à votre repo, votre CI, vos tokens. Voici comment scoper avant qu'un agent fasse un push catastrophique.
Le PAT classique GitHub donne accès à tous vos dépôts privés. Le fine-grained restreint au dépôt près. Migration concrète en 30 minutes par token.
Le MCP est devenu en 2026 le standard de fait pour connecter des outils aux LLM. Chaque serveur MCP est du code étranger dans votre chaîne. Audit pratique.
Donner à un agent l'accès à 12 outils, c'est créer 12 vecteurs d'erreur. Voici la matrice qui sépare les outils acceptables des outils à interdire.
Un agent qui a accès à un fichier de secrets en clair est un secret en plus dans la nature. La bonne posture : injection runtime via broker, pas stockage.
Anthropic Mythos trouve les zero-days, OpenAI Daybreak les corrige. Deux philosophies, deux camps, les mêmes acheteurs. Pourquoi vous allez probablement avoir besoin des deux.
Threat model auto-généré depuis votre repo, patch validé en environnement isolé : ce que Daybreak change concrètement dans votre pipeline — et ce qu'il ne change pas.
OpenAI propose un tier 'red team autorisé' avec GPT-5.5-Cyber. Sans cadrage interne, un dev curieux peut faire des bêtises. Ce que votre DSI doit écrire cette semaine.
Votre auditeur va vous demander : pourquoi cet outil, quels contrôles, quelles preuves. Voici comment monter le dossier avant qu'il vous le demande.
PME, scale-up, grand groupe — la bonne réponse dépend de votre taille, votre maturité sécurité et votre budget. Matrice concrète sans bullshit.
OpenAI a lancé Daybreak le 11 mai avec 10 partenaires associés. La liste — Cloudflare, Cisco, CrowdStrike, Palo Alto, Oracle, Akamai, Fortinet, SentinelOne, Okta, Snyk — dessine la cartographie du futur marché cyber-IA. Décryptage.
La mémoire persistante d'un agent est lue à chaque session. La compromettre une fois, c'est compromettre toutes les conversations futures. Mécanique et défenses.
Le SAST classique (Snyk, Semgrep, SonarQube) reste-t-il pertinent face à Daybreak ? Matrice de coexistence avec ce que chacun fait mieux.
Envoyer votre code source à OpenAI ou Anthropic, c'est un transfert vers les US avec tout ce que ça implique côté Cloud Act, DPA, secret des affaires. Ce que disent les contrats en pratique.
Au 2 août 2026, les obligations AI Act sur les systèmes haut risque s'appliquent. Daybreak et Mythos rentrent-ils dans le scope ? Réponse par cas d'usage.
Sans audit log structuré, un incident agent est impossible à investiguer. Voici les 12 champs à tracer par tool call, et le format qui marche en pratique.
Si Anthropic trouve des milliers de zero-days dans Chrome, Windows et iOS, à quoi sert encore votre programme HackerOne à 150 K€/an ? Réponse honnête en chiffres.
Un agent qui n'a pas été testé en adversarial avant prod sera testé par un attaquant après. Voici 5 scénarios concrets pour cadrer un red team agent en interne.
Mythos trouve des milliers de zero-days côté offensif. Vous côté défense, vous faites quoi concrètement ? Posture bleu team sur les 12 prochains mois.
Un agent autonome qui agit sur le SI peut tomber sous AI Act (haut risque), ISO 42001 et NIS2. Voici ce qu'il faut documenter dès aujourd'hui pour ne pas découvrir en audit.
Le package PyTorch Lightning a été infecté sur PyPI en avril 2026 dans une attaque de credential harvesting. Anatomie et leçons pour les pipelines d'entraînement.
Une hallucination dans un chatbot est gênante. Une hallucination dans un agent qui agit est un incident. Comment réduire l'impact sans tuer l'utilité.
L'AD reste la cible n°1 dans 80% des incidents post-intrusion. Voici la checklist d'audit en 7 étapes alignée ANSSI ADS et tier model Microsoft, applicable en 5 jours pour une PME 100-500 postes.
ISO 42001 est-elle un substitut, un complément ou un doublon d'ISO 27001 ? Réponse pratique pour les organisations qui doivent décider en 2026 où investir leur effort de certification.
RGPD et ISO 27001 sont souvent confondus dans les DDQ enterprise. L'un protège les données personnelles, l'autre formalise un système de management de la sécurité. Voici comment les articuler en 2026.
NIS2 (octobre 2026) et ISO 27001 partagent 70% de leurs exigences. Voici comment articuler les deux pour optimiser l'investissement, et ce que NIS2 ajoute spécifiquement.
DORA et NIS2 se chevauchent sur le secteur financier européen depuis 2025. Lex specialis, double conformité, articulation pratique pour les fintech et SaaS financiers.
ISO 27001 et PCI DSS s'articulent sur les SaaS qui traitent ou facilitent le paiement carte. Voici les recouvrements, les zones spécifiques PCI DSS, et la stratégie de conformité conjointe.
AI Act et RGPD se cumulent quand un système IA traite des données personnelles. AIPD vs AI Impact Assessment, base légale, transparence, droits — voici l'articulation pratique en 2026.
Un agent qui en orchestre d'autres multiplie les chemins d'attaque. Voici les 4 patterns de délégation et leurs propriétés défensives.
Authentification multi-facteur étendue, gestion des scripts e-commerce, exigences de continuous compliance — un guide pratique pour les éditeurs qui traitent des paiements.
Comment utiliser le NIST AI Risk Management Framework comme colonne vertébrale d'une démarche IA responsable, sans alourdir vos équipes, et en s'articulant avec l'AI Act.
Les agents qui pilotent un navigateur (Claude Computer Use, OpenAI Operator, browser-use) ouvrent une surface d'attaque très large. Posture défensive concrète.
Un stagiaire accusé d'avoir saboté un projet d'entraînement avec du malware. Comment se prémunir des menaces internes dans une chaîne ML, sans tomber dans la paranoïa.
Au-delà du rapport, ce que les acheteurs grand compte demandent en 2026 : preuves de monitoring, gestion des accès IA, tests de résilience. Le SOC 2 a évolué.
Au-delà de la documentation, ce que les auditeurs creusent en stage 1 et stage 2 d'une certification ISO 27001. Pour préparer sereinement et éviter les NC évitables.
Un agent qui en appelle un autre hérite des vulnérabilités de jailbreak du second. Mécanique et patterns d'isolation entre LLM.
Un token oublié dans un repo public, accès aux systèmes internes. Comment scanner, faire tourner et compartimenter vos secrets pour qu'un oubli ne devienne pas une crise.
Vous fournissez un composant IA à un client qui en fait un système haut risque ? Vous avez des obligations partielles AI Act. Voici lesquelles, et comment les remplir sans se sur-conformer.
Un agent qui boucle, qui hallucine un besoin de retry, ou qui est manipulé peut consommer 1000 fois plus que prévu. Mécanique du runaway et garde-fous.
Un agent qui agit dans le SI a besoin de garde-fous différents d'un chatbot. Architecture sécurisée pour agents tool-using en production.
Le CRA exige un canal de signalement de vulnérabilités opérationnel à partir de septembre 2026. Voici les exigences précises et l'architecture du programme — basique mais robuste.
Un fine-tuning sur dataset compromis peut introduire un trigger backdoor invisible au testing classique. Mécanique et défenses pour les agents qui s'appuient sur des modèles maison.
Les pipelines RAG accumulent des risques propres : poisoning d'index, fuite cross-tenant, prompt injection indirect. Les bons choix de design dès le départ.
Un agent qui invoque des Lambda, des Cloud Run, des Azure Functions hérite des permissions IAM associées. Voici le scoping minimal à appliquer.
Pourquoi ISO 42001 prend de la valeur en 2026, comment l'articuler avec ISO 27001 et l'AI Act, et ce que les auditeurs vont vraiment demander.
Quand un agent dérape — prompt injection réussie, action non voulue, fuite de contexte — la réponse 0-72h détermine l'impact final. Voici le runbook concret.
Le Cyber Resilience Act se déploie en deux temps. Voici le séquencement réaliste pour ne pas se faire éjecter du marché européen, jalon par jalon.
Le CRA exige un SBOM tenu à jour pendant la durée de support du produit. Les exigences spécifiques, les gotchas, et l'architecture qui permet de tenir 5 ans.
L'Annexe A 2022 a remplacé 114 contrôles par 93, dont 11 nouveaux. Threat intelligence, cloud security, secure coding : ce que ça change concrètement pour les certifiés.
Sept piliers à mettre en production avant le 2 août 2026. Décryptage des exigences techniques pour les éditeurs concernés, sans s'enliser dans le juridique pur.
Les règles génériques d'un SAST sont du bruit pour vos vrais risques. Semgrep permet d'écrire en 30 minutes des règles qui détectent les patterns dangereux propres à votre entreprise.
Le modèle d'Anthropic dévoilé en avril 2026 trouve des failles inédites dans tous les OS et navigateurs majeurs. Implications concrètes pour les équipes sécurité côté défense, sur les 12 prochains mois.
Faire tourner les secrets à la main est faillible et lent. Architecture qui rotation automatiquement, sans toucher au code, en 4 semaines de mise en place.
Cloisonner les workspaces, gérer les clés, surveiller les agents tool-using, encadrer le MCP. Posture de sécurité de bout en bout pour une intégration enterprise de Claude.
Chaque action GitHub utilisée dans votre CI est du code tiers exécuté avec accès à vos secrets. La plupart ne sont jamais auditées. Voici la méthode pour cartographier et durcir.
Une coalition inédite (AWS, Apple, Cisco, CrowdStrike, Google, JPMorgan, Microsoft, NVIDIA, Palo Alto, Linux Foundation) autour de Mythos Preview pour sécuriser les logiciels critiques. Lecture stratégique pour éditeurs et RSSI.
Du déclenchement de l'alerte au debriefing post-incident. Le runbook pragmatique pour PME et scale-ups sans CSIRT interne, applicable dès la première heure.
SAST, DAST, SCA, IaC scanning, secret detection. Comment bâtir des portes de qualité qui arrêtent les releases vulnérables sans tuer la vélocité de l'équipe.
Cloner une voix prend désormais 30 secondes d'audio. Les arnaques au président par téléphone explosent. Voici les contre-mesures organisationnelles et techniques qui marchent vraiment.
Pourquoi Copilot rend visibles des fichiers censés rester privés, et comment cadenasser SharePoint, Teams et OneDrive en moins d'une journée pour éviter les remontées explosives.
ASVS L2 est devenu en 2026 le baseline attendu pour les SaaS B2B. Décryptage des 200+ contrôles, et roadmap pragmatique pour s'aligner sans noyer l'équipe.
Code source confidentiel collé dans un LLM grand public, comptes-rendus de réunions stratégiques en clair sur l'infra d'un tiers. Pourquoi le shadow AI est une priorité gouvernance, pas un sujet outil.
Tatouer cryptographiquement les contenus générés par IA pour permettre leur détection : SynthID, C2PA, watermarking text statistiques. État de l'art opérationnel et exigences AI Act.
Une instruction cachée dans un message public, et l'IA exfiltre des secrets de canaux privés. Anatomie de l'attaque, mécanique du bug, et les vraies parades à mettre en place dans vos propres intégrations.
Servir un RAG à plusieurs clients sur la même infrastructure exige des choix d'architecture stricts. Trois patterns d'isolation, leurs trade-offs réels, et le bon choix selon votre criticité.
Cinq familles de menaces propres aux LLM, leurs vecteurs concrets, et la grille de threat modeling à utiliser dès la conception d'un produit IA.
Recruter un RSSI quand les fondations ne sont pas posées, c'est payer un poste senior pour faire de la peinture sur du carton. Voici les sept chantiers à industrialiser avant ce recrutement.
Auto-héberger un LLM (Llama 3, Mistral, Qwen) répond aux exigences de souveraineté et de confidentialité. Mais ce n'est pas "plus sûr par défaut". Voici les vrais risques et la posture opérationnelle.
Avant de connecter votre application à un fournisseur LLM (OpenAI, Anthropic, Mistral, Cohere) : la checklist DDQ qui détermine si c'est compatible avec vos engagements clients et réglementaires.
Les systèmes multi-agents (LangGraph, AutoGen, CrewAI) deviennent l'archétype 2026. Leurs vulnérabilités spécifiques : collusion d'agents, propagation d'instructions malveillantes, perte de contrôle.
Deux approches dominent les guardrails LLM en 2026 : alignement par Constitutional AI (Anthropic) et classifieurs en sortie (Lakera, NeMo Guardrails). Comparaison opérationnelle pour faire le bon choix.
Tester en continu vos applications LLM contre les attaques connues : prompt injection, jailbreak, data leakage. La grille des outils 2026 et la méthode pour intégrer le red teaming dans le pipeline.
Une certification ISO 27001 ouvre des portes commerciales et conforme à NIS2/DORA/AI Act partiellement. Voici la roadmap honnête sur 12 mois pour une scale-up de 30-150 personnes.
La directive NIS2 a été transposée en droit français mi-2025. Quelles entreprises sont désormais soumises, à quelles obligations, et comment se mettre en conformité sans alourdir excessivement.
Le MFA classique (SMS, TOTP, push) est contourné par les kits AiTM modernes. Les passkeys et FIDO2 sont la seule défense résistante au phishing. Comment migrer une PME sans casser la productivité.
DORA s'applique depuis le 17 janvier 2025 aux entités financières et à leurs prestataires TIC critiques. Les éditeurs qui vendent à des banques, assurances, fintechs sont concernés. Voici la roadmap.
Sigstore est devenu le standard 2024-2026 pour signer images, binaires et artefacts logiciels sans gérer de clés long-terme. Comment démarrer en 30 minutes sur votre pipeline.
Avant qu'un attaquant ne le fasse, cartographier votre surface d'attaque externe : sous-domaines oubliés, secrets exposés, employés ciblables, technologies devinables. La méthode opérationnelle.
Avant de signer une cyber-assurance ou de la renouveler, les assureurs auditent désormais une checklist précise. Voici ce qui passe ou bloque, et comment se préparer pour des primes raisonnables.
Le SBOM (Software Bill of Materials) devient une exigence concrète sous CRA et NIS2. Comment le produire automatiquement, le signer, le maintenir vivant, et choisir entre SPDX et CycloneDX.
Aucune offre commerciale envoyée à froid. On regarde ensemble si la mission a du sens.
Réserver un échange Calendly