Essais sur la modélisation des menaces
La modélisation des menaces classique suppose un système dont vous maîtrisez le flux de contrôle. Les systèmes LLM cassent cette hypothèse : c'est le contenu qui décide, à l'exécution, de ce qui se passe. Modéliser leurs menaces demande donc de partir des actifs et des frontières de confiance, puis de raisonner sur le rayon d'action — ce qui casse si le modèle est totalement compromis. Ces essais proposent une méthode reproductible plutôt qu'une checklist figée : modéliser une fonctionnalité LLM en un après-midi, lire les threat models des autres pour entraîner l'œil, et combler ce que l'OWASP laisse de côté pour les agents. À mettre en regard du Top 10 OWASP pour les LLM et du AI RMF du NIST pour relier chaque menace à un contrôle.
Tous les articles → Outil lié : Générateur de modèle de menaces LLM →
L'injection de prompt n'est pas une classe de bug, c'est une frontière de confiance
Arrête de corriger les jailbreaks un par un. Trace correctement la frontière et la plupart cessent d'avoir de l'importance.
Le prompt est le nouveau périmètre
Vingt ans de pensée pare-feu nous ont appris à tracer un cercle autour des choses auxquelles nous faisons confiance. Les LLM ont avalé le cercle. Ce qui le remplace n'est pas une autre boîte — c'est une discipline.
Ce que l'OWASP rate à propos des agents LLM
Le Top 10 est une checklist pour applications web. Les agents ne sont pas des applications web. Voici la colonne que j'ajouterais — et celle que je retirerais discrètement.
Un petit rituel pour lire les threat models des autres
Cinq questions que je pose avant même d'ouvrir un schéma. La plupart des documents échouent à la question deux.
Modéliser les menaces d'une fonctionnalité LLM en un après-midi
Un rituel léger : flux de données, frontières de confiance, et les cinq questions qui font remonter les vrais risques rapidement.