Essais sur les agents IA

Un agent, c'est un modèle à qui on a donné des outils et la latitude de décider quand les appeler. Cette latitude est exactement ce qui le rend utile — et ce qui rend sa sécurité différente de celle d'une simple fonctionnalité de chat. Le risque ne se mesure plus à ce que le modèle dit, mais à ce qu'il peut faire : chaque outil ajouté élargit le rayon d'action en cas de compromission. Ces essais abordent les agents du point de vue du praticien : le moindre privilège appliqué aux modèles de langage, le sandboxing des appels d'outils sans casser le produit, ce que l'OWASP rate à propos des agents, et les petits rituels de revue qui rattrapent les dérapages avant la production. Le fil conducteur : contraindre la capacité, pas seulement le texte.

Tous les articles → Outil lié : Générateur de modèle de menaces LLM →