AI Act — contrôle humain et déterminisme
Le règlement européen sur l'IA exige, pour les systèmes à risque, un contrôle humain effectif et une traçabilité des décisions (art. 14). Agentic PhishQual y répond par conception : le verdict est produit par un moteur déterministe et rejouable, jamais par un LLM. Un humain peut comprendre, vérifier et corriger chaque décision.
L'apprentissage passe exclusivement par des leçons validées par un administrateur : aucune adaptation automatique opaque. Chaque décision, raisonnement et leçon appliquée est journalisé.
- Verdict déterministe, non délégué au LLM
- Décisions tracées et explicables
- Adaptation sous validation humaine explicite
- Graphe de raisonnement consultable
RGPD — minimisation et souveraineté
Agentic PhishQual fonctionne intégralement hors-ligne : aucune donnée d'e-mail n'a besoin de sortir de votre environnement. Avant tout traitement par un composant d'explication, les adresses e-mail sont pseudonymisées.
La donnée traitée est minimisée et le système ne dépend d'aucun service cloud tiers obligatoire. Vous restez maître de vos données et de votre infrastructure.
- Hors-ligne par défaut
- Pseudonymisation des adresses avant traitement explicatif
- Minimisation des données
- Aucune dépendance cloud obligatoire
Sécurité — garde-fous agentiques
La boucle de feedback et la couche LLM introduisent des risques propres aux systèmes agentiques. Ils sont traités selon les bonnes pratiques OWASP LLM / Agentic :
- Détection d'injection de prompt sur le contenu et le feedback
- Empoisonnement de mémoire empêché (validation humaine, détection de conflit, effet borné)
- Portée des leçons limitée à des champs autorisés
- Aucune action de remédiation exécutée automatiquement (proposées uniquement)
- Échappement strict des contenus non fiables dans l'interface
Responsabilité
Agentic PhishQual est un outil d'aide à la décision pour le tri de niveau 1. Il propose des actions de remédiation, mais ne les exécute jamais sans intervention humaine. La décision finale et sa mise en œuvre restent de la responsabilité de l'équipe de sécurité.
Les performances sont mesurées sur des jeux d'évaluation indépendants et documentées honnêtement, avec leurs limites. Aucune garantie de détection absolue n'est revendiquée.
Des questions de conformité ?
Essayez l'agent, inspectez son raisonnement et son journal d'audit.
▶Voir l'agent en action