Cadre de contrôle · Agents IA Microsoft
La gouvernance d’un agent IA ne se limite pas à filtrer ses réponses. Elle couvre les personnes autorisées à le créer, les données qu’il peut consulter, les actions qu’il peut exécuter, les environnements où il circule et la façon dont l’organisation détecte puis corrige les incidents.
En bref
- Classez chaque agent selon son audience, ses données, ses actions et l’impact d’une erreur.
- Appliquez identité, moindre privilège, politiques de données et séparation des environnements.
- Conservez des évaluations, des journaux, des propriétaires et une procédure d’incident pendant tout le cycle de vie.
Gouverner le système complet, pas seulement le modèle
Un agent relie un modèle génératif à des instructions, des connaissances, des connecteurs, des actions et des canaux de publication. Le risque peut provenir de n’importe lequel de ces composants : document mal classifié, connexion trop permissive, instruction contournée, source périmée ou action exécutée sans confirmation. La revue de sécurité doit donc suivre le parcours de la demande jusqu’au système affecté.
Créez un inventaire des agents comprenant le propriétaire, l’objectif, l’audience, l’environnement, les sources, les actions, le canal, la classe de risque et la date de révision. Les expérimentations personnelles peuvent suivre une voie légère; un agent qui modifie des données financières ou répond au public exige une assurance beaucoup plus forte.
Un cadre de risque simple et actionnable
| Dimension | Question à poser | Contrôle possible |
|---|---|---|
| Audience | Employés connus, partenaires ou public? | Authentification, groupe pilote et canal approuvé. |
| Données | L’agent peut-il traiter des renseignements confidentiels ou personnels? | Classification, permissions, minimisation et politique DLP. |
| Action | Peut-il écrire, envoyer, approuver ou supprimer? | Moindre privilège, confirmation humaine et journalisation. |
| Impact | Une erreur touche-t-elle une personne, un service ou une obligation? | Tests renforcés, approbation métier et mécanisme de repli. |
| Dépendance | Le service peut-il continuer si l’agent est indisponible? | Procédure alternative, seuils d’arrêt et soutien. |
Identité, connaissances et prévention de perte de données
Exigez une authentification adaptée au canal et testez l’autorisation de bout en bout. Une réponse générée ne devrait pas révéler un document ou un enregistrement que l’utilisateur ne peut consulter directement. Utilisez des groupes plutôt que des affectations individuelles, révisez les accès privilégiés et évitez les comptes partagés.
Dans Power Platform, les politiques de données peuvent contrôler les connecteurs et leurs combinaisons. Définissez des politiques adaptées aux environnements de création, de test et de production. Bloquez ou restreignez les services non approuvés, documentez les exceptions et vérifiez l’effet d’un nouveau connecteur avant son introduction. Une politique DLP réduit certains chemins de fuite; elle ne remplace pas la classification, l’autorisation et la formation.
Sécuriser les actions et les outils de l’agent
Chaque action doit avoir un contrat précis : paramètres acceptés, données retournées, identité utilisée, résultat attendu et comportement en cas d’erreur. Limitez la portée de la connexion. Une action qui consulte un statut ne devrait pas disposer d’un droit de modification. Pour une opération importante, exigez une confirmation qui décrit clairement ce qui changera.
Validez les entrées côté système, même si l’agent les a déjà vérifiées. Protégez-vous contre les doublons, les requêtes excessives et les instructions contenues dans des documents non fiables. Journalisez l’intention, l’utilisateur, l’action, l’heure et le résultat en respectant vos règles de confidentialité et de conservation.
Environnements, déploiement et gestion des changements
Séparez l’expérimentation de la production. Les créateurs doivent disposer d’un endroit sûr pour apprendre sans pouvoir publier directement un agent à large audience. Utilisez des solutions et des processus de déploiement pour contrôler les composants, connexions et variables propres à chaque environnement. Nommez les personnes autorisées à approuver une mise en production.
Une modification de source, d’instruction, d’action ou de modèle peut changer le comportement. Déclenchez une évaluation de régression proportionnée avant le déploiement. Conservez la version, les résultats, l’approbation et une option de retour arrière. Les changements urgents doivent également laisser une trace et faire l’objet d’une revue après coup.
Évaluer, surveiller et intervenir
Le jeu d’évaluation doit couvrir l’exactitude, l’ancrage dans les sources, les permissions, les refus, les demandes ambiguës et les tentatives de manipulation. Complétez les tests structurés par un pilote auprès d’utilisateurs représentatifs. Une réussite moyenne peut cacher un échec grave; examinez donc les cas critiques séparément.
En production, surveillez les erreurs, les refus, les escalades, les actions et les commentaires. Définissez qui reçoit une alerte, qui peut désactiver l’agent et comment les utilisateurs sont informés. Une procédure d’incident doit prévoir la conservation des preuves, la limitation de l’impact, la correction, la notification appropriée et la validation avant remise en service.
Répartir clairement les responsabilités
- Propriétaire d’affaires : objectif, audience, règles et acceptation du risque;
- Propriétaire de contenu : qualité, permissions et cycle de révision des connaissances;
- Équipe plateforme : environnements, politiques, inventaire et déploiement;
- Sécurité et vie privée : exigences, contrôles, tests et incidents;
- Équipe produit : instructions, expérience, évaluation et soutien.
Ces rôles peuvent être tenus par une petite équipe, mais ils ne doivent pas rester implicites. Une gouvernance efficace fournit également des modèles approuvés, une voie d’exception et de l’accompagnement, afin que les équipes puissent innover sans recréer les contrôles à chaque projet.
Passer de l’idée à un plan réaliste
Nous pouvons inventorier vos agents, établir votre grille de risque et sécuriser un pilote avant son élargissement. Découvrez aussi notre expertise Copilot Studio et agents IA.
Sources officielles et ressources
Questions fréquentes
Une politique DLP suffit-elle à sécuriser un agent?
Non. Elle contrôle certains usages de connecteurs, mais doit être complétée par l’identité, les permissions, la classification, les tests, la surveillance et des responsabilités claires.
Qui devrait approuver la mise en production?
Au minimum le propriétaire d’affaires et les responsables techniques. La sécurité, la vie privée, le juridique ou la conformité doivent participer selon les données, l’audience et les actions.
À quelle fréquence faut-il revoir un agent?
À une cadence proportionnée au risque et après tout changement important de source, d’instruction, d’action, d’audience ou de politique. Les incidents doivent déclencher une revue immédiate.
