Todo agente responde a alguém

Um agente de IA interno da Amazon, com credenciais de nível de engenheiro, excluiu e reconstruiu um ambiente de produção, deixando a AWS fora do ar por cerca de 13 horas. Nenhum invasor esteve envolvido. O agente fez o que suas permissões lhe permitiam fazer.

Esse é o modelo de falha que deve preocupar todo conselho administrativo que esteja implementando IA atualmente. Não se trata de um invasor que consegue entrar no sistema, mas de um agente autorizado que age mais rápido do que qualquer pessoa consegue verificar, sem que haja um nome humano associado à decisão.

Os clientes da RSA não podem arcar com esse tipo de falha. Eles operam sistemas de pagamento, redes de energia, redes de defesa e infraestrutura hospitalar. Para eles, um resultado ruim não significa apenas um trimestre ruim. É uma catástrofe que interrompe pagamentos, atrasa tratamentos e coloca vidas em risco.

Mas nossos clientes estão implantando agentes apesar do risco. O argumento comercial é válido, seus concorrentes estão implementando agentes e nossos clientes não podem se dar ao luxo de esperar. Para as organizações de alta segurança atendidas pela RSA, a questão nunca foi se iriam adotar a IA baseada em agentes. A questão é se eles conseguem mantê-la segura e se as soluções que utilizam podem operar nos ambientes soberanos de que necessitam.

Em todos os setores, a maioria das organizações não consegue responder a essas três perguntas muito básicas.

1. Quais agentes estão em execução em nosso ambiente?
2. Quem é responsável por cada um deles?
3. Alguém consegue detê-los?

Sem respostas claras para cada uma dessas questões, as organizações ficarão expostas a violações de dados que podem acarretar altos custos, multas por descumprimento de normas e interrupções operacionais.

Gartner prevê que, até 2028, uma empresa típica da lista Global 500 terá 150 mil agentes, um aumento em relação aos menos de 15 previstos para 2025. Cada um deles terá credenciais, solicitará acesso e agirá. Programas de identidade projetados para integrar funcionários, revisar seus direitos uma vez por ano e desativar seu acesso quando eles se demitem nunca foram criados para esse escopo, e nenhuma quantidade de disciplina nos processos consegue preencher essa lacuna manualmente.

O custo é mensurável. Os incidentes de segurança envolvendo IA paralela — ou seja, agentes implantados sem a aprovação dos setores de segurança ou de TI — já atingem, em média, $ 5,39 milhões, cerca de $400.000 a mais do que a média das violações. Os órgãos reguladores estão seguindo a mesma linha. Mais de 1,900 Estruturas normativas, regulamentações, normas e órgãos de governança relacionados à IA estão em vigor em todo o mundo, entre os quais a Parte 500 do NYCRR, a Lei da IA da UE, o Memorando M-25-21 do OMB e a CPS 230 da APRA.

Cada uma delas faz uma versão da mesma pergunta: o que seus agentes fizeram, quais dados eles acessaram e quem aprovou isso? Uma organização que não consiga responder a isso em uma terça-feira qualquer também não conseguirá responder durante uma auditoria.

A IA foi criada para oferecer velocidade e ação. Esse é todo o seu valor, e é por isso que as organizações tendem a pensar na segurança apenas depois que o dano já está feito. Sem obstáculos, um agente pode movimentar dinheiro. Sem supervisão, ele pode consultar um sistema de segurança nacional. Sem controle, ele pode acessar prontuários médicos.

Algumas empresas podem conviver com essa situação por um tempo. As instituições que sustentam o sistema financeiro, os governos nacionais e a infraestrutura essencial, porém, não podem. Quando o risco é catastrófico, e não apenas inconveniente, os controles devem vir antes do agente.

Hoje, a RSA está lançando o Agent ID, a plataforma de segurança baseada em agentes para organizações sujeitas a regulamentações rigorosas. Ela identifica, protege e gerencia agentes em ambientes de nuvem pública, nuvem privada, locais e totalmente isolados, além de ser compatível com os provedores de identidade, terminais e modelos que a organização já utiliza.

Descubra agentes de IA em todo o seu ambiente, desde implantações autorizadas até agentes “sombra” em execução sem aprovação. Ao correlacionar sinais de descoberta entre identidade, nuvem, terminais e gateway, o sistema identifica agentes que ferramentas com um único método não detectam. Cada agente descoberto é registrado em um repositório unificado e pesquisável, com um responsável designado e informações sobre o estado de segurança para os administradores.

O Secure aplica o princípio do privilégio mínimo ao longo de todo o ciclo de vida de um agente e verifica as chamadas de ferramentas antes de sua execução. Ações de alto risco, como uma transferência bancária ou uma solicitação envolvendo dados confidenciais, exigem a aprovação de um usuário autenticado e responsável. Um “kill switch” interrompe o acesso de um agente no momento em que esse acesso não for mais justificado.

O Govern, que estará disponível no início de 2027, certifica o acesso dos agentes de forma contínua, em vez de anualmente, realiza análises de acesso com base no risco e gera evidências prontas para auditoria, alinhadas às estruturas de referência citadas por seus auditores.

Os três módulos funcionam de forma independente ou como um único sistema. Juntos, eles abrangem todo o ciclo de vida de um agente, desde a descoberta inicial até o descomissionamento, tanto em nuvens públicas quanto em implantações soberanas.

Para a maioria dos softwares, o local onde são executados é apenas um detalhe da aquisição. Para um Ministério da Defesa ou um banco central, porém, essa é a condição que determina se os agentes podem permanecer seguros.

O Agent ID é executado em sua nuvem privada, no local ou em ambiente totalmente isolado (air-gapped), e os agentes continuam sob controle mesmo quando a rede é desligada. O motivo é a jurisdição. Uma instituição regulamentada deve ser capaz de indicar onde seus dados estão armazenados, qual legislação os rege e qual autoridade estrangeira poderia exigir acesso a eles. Um agente complica essa resposta de uma forma que um aplicativo comum não faz. Os agentes podem ler registros, acionar ferramentas e gerar telemetria sobre cada uma dessas ações. Se o plano de controle que rege o agente estiver localizado em outro país, o mesmo ocorre com as evidências do que o agente fez. Auditores que trabalham com base na Lei de IA da UE, no GDPR ou em regras nacionais de residência de dados questionam a camada de governança, não apenas a carga de trabalho.

As redes isoladas (air-gapped) tornam o problema concreto. Sistemas governamentais confidenciais, redes de defesa e partes da infraestrutura de pagamentos e da rede elétrica são deliberadamente isoladas da internet pública. Uma plataforma de segurança de agentes que precise acessar o ambiente em nuvem de um fornecedor não pode operar nesse ambiente de forma alguma. Nada é detectado, nada é autorizado, nada é certificado. As organizações que executam os agentes mais importantes acabam tendo o mínimo de supervisão, invertendo o objetivo para o qual a regulamentação foi criada.

As organizações de alta segurança atendidas pela RSA compreendem que soberania e supervisão andam de mãos dadas. Para essas organizações, a soberania sem supervisão é mera fachada. A supervisão sem soberania é incompleta.

A RSA vem há mais de 40 anos protegendo os sistemas que movem o mundo, e o princípio subjacente a esse trabalho não mudou com o Agent ID. Toda identidade responde a alguém. Os agentes não ficam isentos só porque são rápidos, úteis ou difíceis de inventariar.

A IA Agentic não será regida por documentos normativos. Ela será regida por controles que funcionam na velocidade da máquina e por uma trilha de auditoria que vincula cada ação relevante à pessoa que a autorizou. Esse é o padrão que nos impomos e é o que incorporamos ao Agent ID.

Os agentes já estão em seu ambiente. Agora, o que importa é comprovar que você sabe onde eles estão, a que têm acesso e quem é o responsável por eles.

Entre em contato com a RSA para saber mais sobre o RSA Agent ID.