Chaque agent rend des comptes à quelqu'un

Un agent IA interne d'Amazon, disposant de droits d'accès de niveau ingénieur, a supprimé puis recréé un environnement de production, provoquant une interruption du service AWS pendant environ 13 heures. Aucun pirate n'était impliqué. L'agent a simplement agi dans les limites des autorisations qui lui avaient été accordées.

C’est ce scénario de défaillance qui devrait préoccuper tous les conseils d’administration qui déploient actuellement l’IA. Il ne s’agit pas d’un intrus qui s’introduirait dans le système, mais d’un agent autorisé agissant plus vite que quiconque ne peut le contrôler, sans qu’aucun nom humain ne soit associé à la décision.

Les clients de RSA ne peuvent pas se permettre ce genre de défaillance. Ils gèrent des systèmes de paiement, des réseaux électriques, des réseaux de défense et des infrastructures hospitalières. Pour eux, un mauvais résultat ne se résume pas à un mauvais trimestre. C'est une catastrophe qui bloque les paiements, ralentit les soins et met des vies en danger.

Mais nos clients déploient des agents malgré le risque. L’argument commercial est réel, leurs pairs mettent en œuvre des agents, et nos clients ne peuvent pas se permettre d’attendre. Pour les organisations à haut niveau de sécurité que RSA accompagne, la question n’a jamais été de savoir s’ils allaient adopter l’IA basée sur des agents. La question est de savoir s’ils peuvent en garantir la sécurité et si les solutions qu’ils utilisent peuvent fonctionner dans les environnements souverains dont ils ont besoin.

Tous secteurs confondus, la plupart des entreprises ne sont pas en mesure de répondre à ces trois questions très élémentaires.

1. Quels agents sont en cours d'exécution dans notre environnement ?
2. Qui est responsable de chacun d'entre eux ?
3. Quelqu'un peut-il les arrêter ?

Sans réponses claires à chacune de ces questions, les organisations s'exposent à des fuites de données coûteuses, à des amendes pour non-respect de la réglementation et à des perturbations opérationnelles.

Gartner prévoit que d’ici 2028, une entreprise type du classement Global 500 gérera 150 000 agents, contre moins de 15 en 2025. Chacun d’entre eux disposera d’identifiants, demandera des droits d’accès et agira en conséquence. Les programmes de gestion des identités conçus pour l'intégration des collaborateurs, la révision annuelle de leurs droits d'accès et leur désinscription en cas de départ n'ont jamais été pensés pour une telle ampleur, et aucune discipline de processus ne permet de combler manuellement ce fossé.

Le coût est quantifiable. Les incidents de sécurité liés à l’IA « fantôme », c’est-à-dire aux agents déployés sans l’accord des services de sécurité ou informatiques, s’élèvent déjà en moyenne à $5,39 millions, soit environ $400 000 de plus que la moyenne par violation. Les autorités de régulation vont dans le même sens. Plus de 1,900 Des cadres politiques, des réglementations, des normes et des instances de gouvernance relatifs à l'IA sont en vigueur dans le monde entier, parmi lesquels la partie 500 du NYCRR, la loi européenne sur l'IA, le mémorandum M-25-21 de l'OMB et la norme CPS 230 de l'APRA.

Chacune pose une variante de la même question : qu'ont fait vos agents, quelles données ont-ils consultées et qui a donné son accord ? Une organisation incapable d'y répondre un mardi comme les autres ne saura pas y répondre lors d'un audit.

L'IA est conçue pour la rapidité et l'action. C'est là tout son intérêt, et c'est pourquoi les organisations ont tendance à ne penser à la sécurité qu'après coup. Sans aucune entrave, un agent peut transférer des fonds. Sans surveillance, il peut interroger un système de sécurité nationale. Sans contrôle, il peut accéder aux dossiers médicaux des patients.

Certaines entreprises peuvent s'accommoder de ce compromis pendant un certain temps. Ce n'est toutefois pas le cas des institutions qui soutiennent le système financier, des gouvernements nationaux et des infrastructures essentielles. Lorsque les conséquences négatives sont catastrophiques plutôt que simplement gênantes, les contrôles doivent primer sur l'acteur.

RSA lance aujourd'hui Agent ID, la plateforme de sécurité dédiée aux agents destinée aux organisations soumises à une réglementation stricte. Elle permet de détecter, de sécuriser et de gérer les agents dans les environnements de cloud public, de cloud privé, sur site et entièrement isolés (air-gapped), tout en s'intégrant aux fournisseurs d'identité, aux terminaux et aux modèles déjà utilisés par l'organisation.

Identifiez les agents IA présents dans votre environnement, qu’il s’agisse de déploiements autorisés ou d’agents « fantômes » fonctionnant sans autorisation. En établissant des corrélations entre les signaux de détection provenant des identités, du cloud, des terminaux et des passerelles, cette solution détecte les agents que les outils utilisant une seule méthode ne parviennent pas à repérer. Chaque agent détecté est répertorié dans un registre unifié et consultable, auquel est attribué un responsable et qui fournit aux administrateurs des informations sur son état de sécurité.

Secure applique le principe du « moindre privilège » tout au long du cycle de vie complet d’un agent et vérifie les appels vers les outils avant leur exécution. Les actions à haut risque, comme un virement bancaire ou une requête portant sur des données classifiées, nécessitent l’approbation d’une personne authentifiée et responsable. Un « kill switch » met fin à l’accès d’un agent dès que cet accès n’est plus justifié.

Govern, dont la mise à disposition est prévue début 2027, certifie l'accès des agents de manière continue plutôt qu'annuelle, effectue des contrôles d'accès fondés sur les risques et génère des justificatifs prêts pour l'audit, en conformité avec les référentiels cités par vos auditeurs.

Ces trois modules peuvent fonctionner de manière autonome ou comme un système unique. Ensemble, ils couvrent l'ensemble du cycle de vie d'un agent, de sa découverte initiale à sa mise hors service, tant dans les clouds publics que dans les déploiements souverains.

Pour la plupart des logiciels, le lieu d'exécution n'est qu'un détail du contrat d'achat. Pour un ministère de la Défense ou une banque centrale, c'est la condition qui détermine si les agents peuvent rester en sécurité.

Agent ID fonctionne dans votre cloud privé, sur site ou en mode « air-gapped » complet, et les agents restent sous contrôle même lorsque le réseau est coupé. La raison tient à la juridiction. Une institution soumise à une réglementation doit être en mesure de préciser où se trouvent ses données, quelle législation s’y applique et quelle autorité étrangère pourrait exiger d’y accéder. Un agent complique cette réponse d’une manière qu’une application ordinaire ne fait pas. Les agents peuvent lire des enregistrements, appeler des outils et générer des données de télémétrie concernant chacune de ces actions. Si le plan de contrôle régissant l’agent se trouve dans un autre pays, il en va de même pour les preuves de ce que l’agent a fait. Les auditeurs travaillant dans le cadre de la loi européenne sur l’IA, du RGPD ou des règles nationales de résidence des données s’intéressent à la couche de gouvernance, et pas seulement à la charge de travail.

Les réseaux « air-gapped » illustrent bien ce problème. Les systèmes gouvernementaux classifiés, les réseaux de défense et certaines parties des infrastructures de paiement et du réseau électrique sont délibérément coupés de l’Internet public. Une plateforme de sécurité par agent qui doit accéder à l’environnement cloud d’un fournisseur ne peut tout simplement pas y fonctionner. Rien n’est détecté, rien n’est autorisé, rien n’est certifié. Les organisations qui exploitent les agents les plus critiques se retrouvent avec le moins de contrôle, ce qui va à l’encontre de l’objectif initial de la réglementation.

Les organisations à haut niveau de sécurité auxquelles RSA fournit ses services comprennent que la souveraineté et le contrôle vont de pair. Pour ces organisations, la souveraineté sans contrôle n'est qu'une façade. Le contrôle sans souveraineté est incomplet.

Depuis plus de 40 ans, RSA assure la sécurité des systèmes qui font fonctionner le monde, et le principe qui sous-tend ce travail n’a pas changé avec Agent ID. Chaque identité correspond à une personne. Les agents ne font pas exception à cette règle, qu’ils soient rapides, utiles ou difficiles à recenser.

L'IA agentique ne sera pas régie par des documents de politique générale. Elle sera régie par des contrôles fonctionnant à la vitesse de la machine, ainsi que par une piste d'audit permettant de relier chaque action ayant des conséquences à la personne qui l'a autorisée. C'est la norme à laquelle nous nous conformons, et c'est ce que nous avons intégré à Agent ID.

Les agents sont déjà présents dans votre environnement. Il s'agit désormais de démontrer que vous savez où ils se trouvent, ce à quoi ils ont accès et qui en est responsable.

Contactez RSA pour en savoir plus sur RSA Agent ID.