IA & sécurité.
Injection de prompt, rayon d'action des agents, journaux d'audit et garde-fous, l'ingénierie de la robustesse pour des systèmes qui décident à l'exécution de ce qu'ils font.
Sécuriser une fonctionnalité LLM demande de repenser la frontière de confiance : quand l'instruction et la donnée empruntent le même canal, tout ce que le modèle lit peut tenter de devenir une instruction. Ces essais couvrent l'injection de prompt directe et indirecte, le rayon d'action des agents, la journalisation d'audit et la modélisation des menaces, au niveau du praticien, pas de la checklist. Le Top 10 OWASP pour les applications LLM donne le vocabulaire ; MITRE ATLAS cartographie les tactiques adverses correspondantes ; le AI RMF du NIST relie chaque menace à un contrôle. Le fil conducteur est plus ancien qu'il n'y paraît : le problème de l'adjoint confus de 1988, les requêtes paramétrées, le moindre privilège, des idées éprouvées, appliquées à des systèmes qui décident à l'exécution, en lisant de l'anglais, de ce qu'ils font.
Ton pipeline RAG est un adjoint confus
Un article de 1988 sur le problème du confused deputy en dit plus sur les pipelines RAG modernes que la plupart des posts de 2024.
30 mars 2026 · 13 min de lecture
Sécurité du vibe coding : la checklist de trente minutes qui sépare une app lancée d'un data leak
Sécurité du vibe coding : la checklist de trente minutes qui sépare une app lancée d'un data leak. RGPD, RLS Supabase, prompts d'audit IA, rate limits.
Outils de sécurité IA en 2026 : le panorama des cinq lancements de mai
Panorama des cinq outils de sécurité IA publiés en mai 2026 par Google, Microsoft, OpenAI, Perplexity et Anthropic : ce que chacun fait, et la grille de choix.
Le prompt est le nouveau périmètre
Les LLM ont avalé la frontière de confiance. Ce qui la remplace n'est pas une autre boîte, c'est une discipline de séparation des privilèges.
Un petit rituel pour lire les threat models des autres
Cinq questions que je pose avant même d'ouvrir un schéma de menaces. La plupart des documents échouent à la question deux, et c'est la plus simple.
Le journal d'audit est la fonctionnalité de sécurité IA la plus sous-estimée
Si vous ne pouvez pas rejouer ce que votre agent a fait, vous n'avez pas un produit en production, vous avez un pari. Voici ce qu'il faut journaliser.
Le moindre privilège pour les modèles de langage
Le principe a quarante ans. L'appliquer à un LLM avec accès aux outils, c'est là que ça devient intéressant, et non trivial.
Secrets, outils, et l'agent qui a lu votre fichier env
Donnez un accès shell à un agent et vos secrets ne sont plus qu'à un cat .env de distance. Des patterns de confinement qui tiennent.