Testeur d'injection de prompt
Déposez le prompt système sur lequel tourne votre agent et un message utilisateur qui vous inquiète. Le testeur le confronte à une bibliothèque de schémas connus d'injection de prompt et de jailbreak, et vous indique ceux auxquels votre prompt ne résiste pas.
Ce qu'il vérifie
- Confronte votre prompt à plus de 40 schémas connus d'injection et de jailbreak
- Signale les instructions les plus susceptibles d'être contournées
- Suggère des formulations de garde-fous pour les points faibles
- Attribue un score global de résistance sur 100