Télécharger le livre blanc

Chaque agent correspond à une identité. La plupart ne sont pas réglementés.

Les agents affluent de toutes parts. Les développeurs installent des assistants sur les postes de travail et dans les IDE. Les équipes métier développent des « copilotes » sur des plateformes cloud. Les fournisseurs intègrent des agents dans les logiciels que vous utilisez déjà. La plupart disposent d’identifiants et ont accès aux systèmes de référence. Rares sont ceux qui font l’objet d’un inventaire. Encore plus rares sont ceux qui ont un responsable désigné. Presque aucun ne fournit de preuves qu’un enquêteur jugerait recevables.

Certaines organisations peuvent tolérer les erreurs de l'IA ou corriger les problèmes en environnement de production. Ce n'est pas le cas des organisations soumises à une réglementation. Lorsqu'un agent valide un paiement, consulte un dossier dont il n'avait pas besoin ou modifie un droit sans y être autorisé, il s'agit d'un événement devant être signalé. C'est l'organisation qui en répond, et non le fournisseur du modèle.

Deux guides. Une norme.

Ce document comporte deux versions, destinées aux deux groupes qui doivent travailler ensemble pour mener à bien cette tâche.

Ce guide destiné aux dirigeants et aux conseils d'administration aborde les domaines dans lesquels les agents créent de la valeur, les cinq défis à prendre en compte pour trouver un équilibre par rapport à cette valeur, l'échelle d'autonomie, les huit éléments qui distinguent les organisations qui déploient des agents en toute sécurité de celles qui ne le font pas, ainsi que huit questions auxquelles tout conseil d'administration devrait pouvoir répondre.

Cette architecture s'adresse aux responsables de la sécurité des systèmes d'information (RSSI), aux responsables de la gestion des identités et aux architectes de sécurité. Elle définit un modèle opérationnel en six parties, une architecture de référence qui place une passerelle entre chaque agent et chaque outil, ainsi que les éléments de preuve nécessaires pour reconstituer l'action d'un agent donné plusieurs mois après qu'elle a eu lieu.

Ce que vous apprendrez

  • Pourquoi le déploiement d'agents relève d'une décision de gouvernance et non d'un simple achat technologique, et en quoi les programmes existants en matière de risques liés aux modèles et d'identité offrent une longueur d'avance aux secteurs réglementés.
  • Comment renforcer progressivement l'autonomie des agents, en mettant en place les contrôles et les éléments justificatifs nécessaires avant chaque nouvelle étape.
  • Pourquoi les contrôles des comptes de service s'avèrent insuffisants pour les agents qui enchaînent des dizaines d'appels d'outils en quelques secondes et dont les défaillances passent inaperçues plutôt que de se manifester de manière flagrante.
  • Six pratiques qui fournissent chacune des preuves : un registre des agents avec identification des propriétaires, la traçabilité, la vérifiabilité, la gestion souveraine des données, l'octroi restrictif des droits d'accès et la surveillance des dérives.
  • Comment maintenir la passerelle, la politique et le journal d'audit à l'intérieur de votre propre périmètre lorsque les règles de souveraineté l'exigent.
  • Un plan sur 30, 99 et 180 jours pour recenser les agents, mettre en place un contrôle et institutionnaliser la gouvernance.

Conçu autour de la première question posée par les examinateurs

Chaque secteur réglementé se pose, d'une manière ou d'une autre, la même question après un incident. Ce document présente les enjeux et les obligations propres à chacun d'entre eux.

  • Services financiers: Quelle entité a effectué ce paiement, et qui l'a autorisé ?
  • Santé: À quels dossiers l'agent a-t-il eu accès, et cet accès était-il nécessaire à l'accomplissement de sa mission ?
  • Énergie et services publics: Cet agent pourrait-il atteindre un système opérationnel, et qui pourrait l'en empêcher ?
  • Gouvernement: Où sont passées ces données, et ont-elles quitté le territoire ?

Chacune de ces questions touche à l'identité même de l'organisation. Les organisations qui y répondent en s'appuyant sur des documents plutôt que sur des entretiens conservent leur agrément, leur réputation et la confiance de leur autorité de contrôle.

L'autonomie, c'est un parcours progressif, pas un simple changement d'état

Les résultats des tests de performance ne garantissent pas des performances fiables dans le cadre de votre travail, avec vos données. L’article définit trois niveaux. Au premier niveau, l’agent formule des recommandations et c’est une personne qui prend toutes les décisions. Au deuxième niveau, l’agent n’agit que lorsque les actions peuvent être annulées, et les décisions ayant des conséquences importantes sont confiées à un humain authentifié. Au troisième niveau, l’agent exécute des tâches définies de bout en bout, dans le respect des limites financières et de périmètre qu’il ne peut dépasser. Chaque promotion est une décision encadrée, prise sur la base de données issues de votre propre environnement.

Huit questions à l'intention du conseil d'administration

Un conseil d'administration qui obtient une réponse documentée à chaque question contrôle son utilisation de l'IA. Ce n'est pas le cas d'un conseil d'administration qui se contente d'assister à une présentation. Voici trois des huit questions que vous trouverez dans cet article :

  • Combien d'agents d'IA sont actuellement en service au sein de notre organisation, et qui est responsable de chacun d'entre eux ?
  • Pour les actions qui en découlent, qui les approuve, et comment l'identité de cette personne est-elle vérifiée ?
  • Si une autorité de régulation nous demandait de reconstituer une action d'un agent au cours du dernier trimestre, serions-nous en mesure de le faire en nous appuyant uniquement sur les données disponibles ?

Comment l'identifiant d'agent RSA met ce document en pratique

Les deux éditions s’achèvent en associant chaque recommandation à un identifiant d’agent RSA. Discover crée le registre des agents, désigne des responsables et évalue l’étendue des risques. Secure intègre une passerelle MCP, une politique et une validation humaine authentifiée dans le parcours de chaque appel, qu’il soit géré par RSA ou auto-hébergé au sein de votre périmètre. Le journal d’audit enregistre chaque décision, y compris les refus, sous forme d’événement de contrôle mis en correspondance avec les référentiels déjà utilisés par votre auditeur.

Télécharger le livre blanc

Identité agentique pour les secteurs réglementés, comprenant le guide de direction et l'architecture. Destiné aux dirigeants, aux membres du conseil d'administration, aux RSSI, aux responsables de la gestion des identités et aux équipes chargées des risques et de la conformité.

Foire aux questions

Qu'est-ce que l'identité agentique ?
L'identité agentique considère chaque agent d'IA comme une identité à part entière, dotée d'un propriétaire humain identifié, de droits d'accès définis et d'un historique de toutes les actions qu'il effectue. Elle applique aux logiciels qui planifient et exécutent des tâches les règles de responsabilité que les organisations réglementées utilisent déjà pour les personnes.
Comment un conseil d'administration devrait-il encadrer les agents d'IA ?
En définissant le degré d'autonomie dont peuvent disposer les agents et en exigeant des réponses documentées à des questions fondamentales : combien y a-t-il d'agents, à qui appartient chacun d'entre eux, qui approuve les actions ayant des conséquences importantes, et est-il possible de reconstituer une action donnée à partir des seules données enregistrées ?.
Quels sont les niveaux d'autonomie des agents d'IA ?
Le livre blanc de RSA en décrit trois : se limiter à formuler des recommandations, agir de manière réversible et agir de manière autonome dans certaines limites. Les agents passent à un niveau supérieur un par un, et uniquement lorsque les éléments recueillis au niveau précédent le justifient.
Pourquoi les contrôles liés aux comptes de service ne suffisent-ils pas pour les agents d'IA ?
Les comptes de service exécutent des tâches fixes et signalent leurs échecs de manière très visible. Les agents IA enchaînent de nombreux appels d'outils entre différents systèmes en quelques secondes, adaptent leur comportement lorsque les modèles ou les invites changent, agissent au nom des utilisateurs et peuvent être réorientés en fonction du contenu qu'ils lisent. L'autorisation doit être déterminée pour chaque action, et non par compte.
Qui est responsable lorsqu'un agent d'IA commet une erreur ?
L'organisation qui l'a déployé. Dans les secteurs réglementés, un accès non autorisé ou une fuite de données par un agent entraîne les mêmes obligations de déclaration et d'enquête que si un individu en était à l'origine.