Un utilisateur écrit : « Décale ce rendez-vous et préviens le client ». Un agent peut comprendre la consigne, mais il ne devrait pas modifier un agenda sans vérifier qui demande l’action, quels droits s’appliquent et si une confirmation est nécessaire. C’est cette séparation entre proposition et exécution qui rend le système maîtrisable. Ce potentiel impose de distinguer très clairement la compréhension en langage naturel, les droits de l’utilisateur et l’exécution effective des actions.
Assistant, RAG et agent : trois rôles différents
Un assistant échange avec l’utilisateur. Le RAG fournit des extraits documentaires pour ancrer une réponse. L’agent ajoute la possibilité de sélectionner des outils et de proposer une séquence d’étapes. Ces fonctions peuvent coexister, mais leur niveau de risque n’est pas identique.
Les outils en lecture seule en premier
Un lancement prudent commence par des opérations de consultation : rechercher une commande, lister des rendez-vous ou lire une procédure. Les résultats doivent respecter les droits de l’utilisateur connecté, avec des limites de volume et des journaux appropriés.
Une proposition avant chaque action sensible
| Demande — Modifier un rendez-vous | → | Proposition — Paramètres et autorisations vérifiés | → | Approbation — Confirmation explicite avant exécution |
Pour modifier un statut, créer un dossier ou envoyer un e-mail, l’agent prépare une proposition structurée. L’utilisateur voit le destinataire, la cible et les paramètres, puis confirme explicitement. Le serveur revérifie toutes les autorisations au moment de l’exécution.
Gérer les erreurs et les répétitions
Un délai réseau ne signifie pas nécessairement que l’action a échoué. Pour éviter une double création, les systèmes peuvent utiliser des identifiants d’opération et des mécanismes d’idempotence. L’agent ne doit pas improviser un nouveau paiement ou un nouvel envoi lorsqu’une réponse tarde.
Séparer les organisations et leurs données
Dans un logiciel utilisé par plusieurs entreprises, le périmètre d’accès dépend du compte, de l’organisation et du rôle. Ni le texte d’une demande ni un document indexé ne doivent permettre de contourner ces contrôles. Les réponses issues d’outils sont des données à interpréter, pas des instructions à exécuter.
Trois tests de refus à prévoir dès le prototype
Un agent doit réussir ses actions autorisées, mais aussi échouer correctement lorsque la demande dépasse les permissions. Préparez notamment trois cas : un utilisateur tente de consulter un dossier appartenant à une autre organisation ; une validation précédemment accordée a expiré ; la même demande de création est envoyée deux fois après une interruption réseau.
Les comportements attendus sont clairs : aucun accès à des données étrangères, aucune exécution sur une autorisation périmée et aucune création en double. Les droits doivent être revérifiés par l’application au moment de l’action, pas déduits d’une phrase rédigée par le modèle. Ces tests techniques comptent davantage qu’une démonstration spectaculaire où tout se passe bien.
Pour l’amont documentaire, consultez également notre guide sur les bases RAG et leurs sources : retrouver une information et disposer du droit de l’utiliser sont deux questions différentes.
Démarrer avec un cas simple
Testez une recherche en lecture, puis une action réversible avec validation. Mesurez la réussite des scénarios et les refus corrects. DYDAPS peut étudier les intégrations via ses applications métier ou accompagner un projet IA dans la durée.
Un test indispensable : tentez la même action avec un utilisateur qui n’a pas le droit requis et avec une validation expirée. Le système doit refuser l’exécution, même si le modèle la propose.








