Essais sur la modélisation des menaces
La modélisation des menaces classique suppose un système dont vous maîtrisez le flux de contrôle. Les systèmes LLM cassent cette hypothèse : c'est le contenu qui décide, à l'exécution, de ce qui se passe. Modéliser leurs menaces demande donc de partir des actifs et des frontières de confiance, puis de raisonner sur le rayon d'action — ce qui casse si le modèle est totalement compromis. Ces essais proposent une méthode reproductible plutôt qu'une checklist figée : modéliser une fonctionnalité LLM en un après-midi, lire les threat models des autres pour entraîner l'œil, et combler ce que l'OWASP laisse de côté pour les agents. À mettre en regard du Top 10 OWASP pour les LLM et du AI RMF du NIST pour relier chaque menace à un contrôle.
Tous les articles → Outil lié : Générateur de modèle de menaces LLM →
Le prompt est le nouveau périmètre
Les LLM ont avalé la frontière de confiance. Ce qui la remplace n'est pas une autre boîte, c'est une discipline de séparation des privilèges.
Ce que l'OWASP rate à propos des agents LLM
Le Top 10 OWASP est une checklist pour apps web. Les agents ne sont pas des apps web. Voici la colonne que j'ajouterais, et celle que je retirerais.
Un petit rituel pour lire les threat models des autres
Cinq questions que je pose avant même d'ouvrir un schéma de menaces. La plupart des documents échouent à la question deux, et c'est la plus simple.