Essais sur les journaux d'audit

Quand un système piloté par LLM dérape, la première question est « qu'a-t-il fait, exactement ? » — et la réponse dépend entièrement de ce que vous avez journalisé avant l'incident. Les prompts, les appels d'outils, les entrées récupérées et les décisions du modèle forment la trace forensique sans laquelle un incident reste ininvestigable. Le NIST AI RMF range cette observabilité dans la fonction « mesurer/gérer » ; en pratique, c'est la différence entre un post-mortem honnête et une devinette. Ces essais expliquent ce qu'il faut capturer pour survivre à un incident, pourquoi la journalisation d'audit est la fonctionnalité de sécurité IA la plus sous-estimée, et comment la concevoir sans transformer vos logs en nouvelle fuite de données sensibles.

Tous les articles → Outil lié : Évaluateur de risque de fonctionnalité IA →