Ogni agente risponde a qualcuno

Un agente di intelligenza artificiale interno di Amazon, dotato di credenziali di livello ingegneristico, ha cancellato e ricostruito un ambiente di produzione, causando l'interruzione del servizio AWS per circa 13 ore. Non è stato coinvolto alcun malintenzionato. L'agente ha agito nei limiti delle autorizzazioni di cui disponeva.

Questo è il modello di fallimento che dovrebbe preoccupare ogni consiglio di amministrazione che sta attualmente implementando l’IA. Non un intruso che si introduce nel sistema, ma un agente autorizzato che agisce più rapidamente di quanto chiunque possa controllarlo, senza che alla decisione sia associato alcun nome umano.

I clienti di RSA non possono permettersi un fallimento del genere. Gestiscono sistemi di pagamento, reti elettriche, reti di difesa e infrastrutture ospedaliere. Per loro, un esito negativo non significa semplicemente un trimestre deludente. Si tratta di una catastrofe che blocca i pagamenti, rallenta le cure e mette a rischio vite umane.

Ma i nostri clienti stanno implementando gli agenti nonostante il rischio. I vantaggi commerciali sono concreti, i loro concorrenti stanno implementando gli agenti e i nostri clienti non possono permettersi di aspettare. Per le organizzazioni ad alta sicurezza servite da RSA, la questione non è mai stata se avrebbero adottato l’IA basata su agenti. Si tratta piuttosto di capire se siano in grado di garantirne la sicurezza e se le soluzioni che utilizzano possano funzionare negli ambienti sovrani di cui hanno bisogno.

In tutti i settori, la maggior parte delle organizzazioni non è in grado di rispondere a queste tre domande fondamentali.

1. Quali agenti sono in esecuzione nel nostro ambiente?
2. Chi ne è responsabile?
3. Qualcuno riuscirà a fermarli?

Senza risposte chiare a ciascuna di queste domande, le organizzazioni saranno esposte al rischio di costose violazioni dei dati, sanzioni per inadempienza normativa e interruzioni operative.

Gartner prevede che entro il 2028 un’azienda tipica della classifica Global 500 gestirà 150.000 agenti, rispetto ai meno di 15 del 2025. Ciascuno di essi disporrà di credenziali, richiederà l’accesso e agirà. I programmi di gestione delle identità progettati per l’inserimento dei dipendenti, la revisione dei loro diritti una volta all’anno e la loro esclusione dal sistema in caso di dimissioni non sono mai stati concepiti per una portata del genere, e nessuna disciplina procedurale, per quanto rigorosa, è in grado di colmare manualmente questa lacuna.

Il costo è quantificabile. Gli incidenti di sicurezza che coinvolgono l’intelligenza artificiale “ombra” – ovvero agenti implementati senza l’approvazione dei reparti di sicurezza o IT – ammontano già in media a $5,39 milioni, circa $400.000 in più rispetto alla violazione media. Le autorità di regolamentazione stanno andando nella stessa direzione. Più di 1,900 A livello mondiale sono in vigore quadri normativi, regolamenti, standard e organismi di governance in materia di IA, tra cui la Parte 500 del NYCRR, la legge dell’UE sull’IA, il memorandum M-25-21 dell’OMB e la CPS 230 dell’APRA.

Ognuna pone una variante della stessa domanda: cosa hanno fatto i vostri agenti, quali dati hanno consultato e chi ha dato l’approvazione? Un’organizzazione che non è in grado di rispondere a queste domande in un normale martedì non sarà in grado di farlo nemmeno in occasione di un audit.

L'intelligenza artificiale è progettata per la velocità e l'azione. È proprio questo il suo valore fondamentale, ed è per questo che le organizzazioni tendono a pensare alla sicurezza solo a posteriori. Senza ostacoli, un agente può trasferire denaro. Senza supervisione, può interrogare un sistema di sicurezza nazionale. Senza controllo, può accedere alle cartelle cliniche dei pazienti.

Alcune imprese possono sopportare questo compromesso per un certo periodo. Le istituzioni che sostengono il sistema finanziario, i governi nazionali e le infrastrutture critiche, invece, non possono. Quando le conseguenze negative sono catastrofiche anziché semplicemente fastidiose, i controlli devono precedere l’agente.

Oggi RSA lancia Agent ID, la piattaforma di sicurezza basata sugli agenti pensata per le organizzazioni soggette a normative rigorose. La piattaforma individua, protegge e gestisce gli agenti in ambienti di cloud pubblico, cloud privato, on-premise e completamente isolati (air-gapped), integrandosi con i provider di identità, gli endpoint e i modelli già in uso all’interno dell’organizzazione.

Individua gli agenti AI presenti nel tuo ambiente, dalle implementazioni autorizzate agli agenti “ombra” in esecuzione senza approvazione. Grazie alla correlazione dei segnali di rilevamento tra identità, cloud, endpoint e gateway, individua gli agenti che gli strumenti basati su un unico metodo non riescono a rilevare. Ogni agente individuato viene inserito in un registro unificato e consultabile, con l’assegnazione di un responsabile e informazioni sullo stato di sicurezza a disposizione degli amministratori.

Secure applica il principio del "privilegio minimo" durante l'intero ciclo di vita di un agente e verifica le chiamate agli strumenti prima che vengano eseguite. Le azioni ad alto rischio, come un bonifico bancario o una richiesta che coinvolga dati riservati, richiedono l'approvazione da parte di una persona autenticata e responsabile. Un "kill switch" interrompe l'accesso di un agente nel momento in cui tale accesso non è più giustificato.

Govern, che sarà disponibile all’inizio del 2027, certifica l’accesso degli agenti in modo continuativo anziché su base annuale, effettua verifiche degli accessi basate sul rischio e produce documentazione pronta per gli audit, allineata ai quadri di riferimento citati dai vostri ispettori.

I tre moduli funzionano in modo autonomo o come un unico sistema. Insieme, coprono l’intero ciclo di vita di un agente, dalla sua prima individuazione fino alla sua disattivazione, sia su cloud pubblici che in ambienti di implementazione sovrani.

Per la maggior parte dei software, il luogo in cui vengono eseguiti è un semplice dettaglio dell’appalto. Per un ministero della difesa o una banca centrale, invece, è la condizione che determina se gli agenti possano rimanere al sicuro.

L’Agent ID funziona nel cloud privato, in locale o in un ambiente completamente isolato (air-gapped), e gli agenti rimangono sotto controllo anche quando la rete è disattivata. Il motivo è la giurisdizione. Un’istituzione soggetta a regolamentazione deve essere in grado di indicare dove si trovano i propri dati, quale legislazione li disciplina e quale autorità straniera potrebbe imporre l’accesso agli stessi. Un agente complica questa risposta in un modo in cui un’applicazione ordinaria non lo fa. Gli agenti possono leggere i record, richiamare strumenti e generare dati di telemetria su ciascuna di queste azioni. Se il piano di controllo che governa l’agente si trova in un altro paese, lo stesso vale per le prove di ciò che l’agente ha fatto. I revisori che operano in base all’AI Act dell’UE, al GDPR o alle norme nazionali sulla residenza dei dati pongono domande sul livello di governance, non solo sul carico di lavoro.

Le reti “air-gapped” rendono il problema concreto. I sistemi governativi riservati, le reti della difesa e parti delle infrastrutture di pagamento e della rete elettrica sono deliberatamente isolate dalla rete Internet pubblica. Una piattaforma di sicurezza basata su agenti che debba raggiungere il tenant cloud di un fornitore non può operare in quel contesto. Nulla viene rilevato, nulla viene autorizzato, nulla viene certificato. Le organizzazioni che gestiscono gli agenti più rilevanti finiscono per avere il minor livello di supervisione, invertendo l’obiettivo per cui la normativa era stata redatta.

Le organizzazioni ad alta sicurezza a cui RSA fornisce i propri servizi comprendono che sovranità e controllo vanno di pari passo. Per queste organizzazioni, la sovranità senza controllo è solo una messinscena. Il controllo senza sovranità è incompleto.

RSA si dedica da oltre 40 anni alla protezione dei sistemi che fanno funzionare il mondo, e il principio alla base di questo lavoro non è cambiato con Agent ID. Ogni identità è associata a qualcuno. Gli agenti non godono di alcuna deroga solo perché sono veloci, utili o difficili da inventariare.

L'IA agentica non sarà regolata da documenti normativi. Sarà regolata da controlli che operano alla velocità della macchina e da una traccia di audit che ricollega ogni azione rilevante alla persona che l'ha autorizzata. Questo è lo standard a cui ci atteniamo ed è ciò che abbiamo integrato in Agent ID.

Gli agenti sono già presenti nel vostro ambiente. Ora dovete dimostrare di sapere dove si trovano, a cosa hanno accesso e chi ne è responsabile.

Contatta RSA per saperne di più su RSA Agent ID.