백서 다운로드

모든 에이전트는 하나의 정체성입니다. 대부분은 통제되지 않습니다.

에이전트들이 사방에서 한꺼번에 몰려오고 있습니다. 개발자들은 데스크톱 및 IDE 어시스턴트를 설치합니다. 비즈니스 팀은 클라우드 플랫폼에 코파일럿을 구축합니다. 벤더들은 사용자가 이미 실행 중인 소프트웨어에 에이전트를 내장합니다. 대부분은 인증 정보를 보유하고 있으며 기록 시스템에 접근할 수 있습니다. 목록에 등록된 에이전트는 거의 없으며, 책임자가 명시된 에이전트는 더 적습니다. 조사관이 인정할 만한 증거를 제시하는 에이전트는 거의 없습니다.

일부 조직은 AI의 오류를 용인하거나 운영 환경에서 발생하는 문제를 해결할 수 있지만, 규제 대상 조직은 그렇지 못합니다. 상담원이 결제를 승인하거나, 필요 없는 기록을 열람하거나, 권한 없이 혜택 내용을 변경하는 경우, 이는 보고 대상 사건입니다. 이에 대한 책임은 모델 공급업체가 아닌 해당 조직이 져야 합니다.

두 가지 가이드. 하나의 표준.

이 논문은 서로 협력하여 이 문제를 해결해야 하는 두 그룹을 위해 작성된 두 가지 버전이 있습니다.

이 리더십 가이드북은 경영진과 이사회를 대상으로 합니다. 이 가이드북에서는 에이전트가 가치를 창출하는 영역, 그 가치와 균형을 맞춰야 할 다섯 가지 과제, 자율성 단계, 에이전트를 안전하게 도입하는 조직과 그렇지 않은 조직을 구분 짓는 여덟 가지 요소, 그리고 모든 이사회가 답할 수 있어야 할 여덟 가지 질문을 다룹니다.

이 아키텍처는 CISO, 신원 관리 담당자 및 보안 아키텍트를 대상으로 합니다. 이 아키텍처는 6가지 부분으로 구성된 운영 모델과, 모든 에이전트와 모든 도구 사이에 게이트웨이를 배치하는 참조 아키텍처, 그리고 특정 에이전트의 동작이 발생한 지 수개월이 지난 후에도 이를 재구성하는 데 필요한 증거를 제시합니다.

배울 내용

  • 에이전트 배포가 왜 기술 구매가 아닌 거버넌스상의 결정인지, 그리고 기존의 모델 리스크 및 신원 관리 프로그램이 규제 대상 산업에 어떻게 유리한 출발점을 제공하는지.
  • 각 단계로 넘어가기 전에 필요한 통제 수단과 근거를 바탕으로, 에이전트의 자율성을 단계적으로 확대하는 방법.
  • 왜 서비스 계정 제어 방식이, 몇 초 만에 수십 건의 도구 호출을 연쇄적으로 수행하고, 눈에 띄는 오류 대신 그럴듯한 오류를 발생시키는 에이전트들에게는 한계가 있는 것일까?.
  • 각각 증거를 생성하는 6가지 관행: 소유자가 명시된 에이전트 등록부, 추적 가능성, 감사 가능성, 주권적 데이터 처리, 제한적 프로비저닝 및 드리프트 모니터링.
  • 주권 관련 규정이 요구할 때 게이트웨이, 정책 및 감사 로그를 자체 경계 내부에 유지하는 방법.
  • 에이전트를 파악하고, 경로에 차단 장치를 설치하며, 거버넌스를 일상적인 업무로 정착시키기 위한 30일, 90일, 180일 계획.

시험관이 가장 먼저 묻는 질문을 중심으로 구성됨

규제 대상 분야는 사고가 발생한 후 모두 비슷한 질문을 던집니다. 이 논문은 각 분야별 이해관계와 의무를 정리하고 있습니다.

  • 금융 서비스: 이 지급을 처리한 부서는 어디이며, 누가 승인했습니까?
  • 의료: 담당자가 어떤 기록에 접근했는지, 그리고 그 접근이 해당 업무 수행에 필요한 것이었는지?
  • 에너지 및 공공 서비스: 이 에이전트가 운영 시스템에 침투할 수 있을까요? 그리고 누가 이를 막을 수 있을까요?
  • 정부: 데이터는 어디로 갔으며, 관할 구역을 벗어났습니까?

이것들은 모두 정체성에 관한 문제입니다. 인터뷰가 아닌 기록을 바탕으로 답변하는 조직은 면허와 명성, 그리고 규제 당국의 신뢰를 유지할 수 있습니다.

자율성은 스위치가 아니라 사다리와 같습니다

벤치마크 점수는 사용자의 데이터로 실제 업무에서 신뢰할 수 있는 성능을 보장하지는 않습니다. 이 논문은 세 단계로 구분합니다. 첫 번째 단계에서는 에이전트가 권장 사항을 제시하고, 사람이 모든 조치를 취합니다. 두 번째 단계에서는 에이전트가 되돌릴 수 있는 조치에 대해서만 행동하며, 그에 따른 결정은 인증된 사람이 내리도록 보류됩니다. 세 번째 단계에서는 에이전트가 초과할 수 없는 재정적 한도와 범위 내에서 정의된 작업을 처음부터 끝까지 완료합니다. 모든 승진은 사용자의 환경에서 얻은 증거를 바탕으로 내려진, 규제를 받는 결정입니다.

이사회에 묻는 여덟 가지 질문

각 질문에 대해 문서화된 답변을 얻을 수 있는 이사회는 AI 사용을 제대로 관리하고 있는 것입니다. 반면, 단순히 발표만 듣는 이사회는 그렇지 않습니다. 이 논문에서 다루는 8가지 질문 중 세 가지는 다음과 같습니다:

  • 현재 우리 조직에는 몇 명의 AI 에이전트가 운영되고 있으며, 각 에이전트의 책임자는 누구인가요?
  • 연쇄적 조치의 경우, 누가 승인하며, 해당 인물의 신원은 어떻게 확인되나요?
  • 만약 규제 당국이 지난 분기의 에이전트 행동 중 하나를 재구성해 달라고 요청한다면, 기록만으로는 이를 해낼 수 있을까요?

RSA 에이전트 ID가 이론을 실무에 어떻게 적용하는지

두 버전 모두 각 권장 사항을 RSA 에이전트 ID에 매핑하는 것으로 마무리됩니다. Discover는 에이전트 레지스트리를 구축하고, 소유자를 지정하며, 영향 범위를 측정합니다. Secure는 RSA에서 관리하든, 귀사의 경계 내에서 자체 호스팅되든 상관없이 모든 호출 경로에 MCP 게이트웨이, 정책 및 인증된 사람의 승인을 배치합니다. 감사 로그에는 거부 결정을 포함한 모든 결정 사항이 감사 담당자가 이미 사용하고 있는 프레임워크에 매핑된 제어 이벤트로 기록됩니다.

백서 다운로드

규제 대상 산업을 위한 주체 기반 신원 관리 솔루션으로, 리더십 가이드와 아키텍처를 포함합니다. 경영진, 이사회 구성원, CISO, 신원 관리 책임자, 리스크 및 규정 준수 팀을 대상으로 합니다.

자주 묻는 질문

‘주체적 정체성’이란 무엇인가?
‘에이전트 정체성’은 모든 AI 에이전트를 이름이 지정된 인간 소유자, 정의된 권한, 그리고 수행한 모든 행동의 기록을 갖춘 일급 정체성으로 간주합니다. 이는 규제 대상 기관들이 이미 사람에 대해 적용하고 있는 책임 규정을, 업무를 계획하고 실행하는 소프트웨어에 적용하는 것입니다.
이사회는 AI 에이전트를 어떻게 관리해야 할까요?
에이전트가 가질 수 있는 자율성의 범위를 설정하고, 에이전트의 수, 각 에이전트의 소유자, 중대한 조치를 승인하는 주체, 기록만으로도 개별 조치를 재구성할 수 있는지 여부와 같은 기본적인 질문에 대해 문서화된 답변을 요구함으로써.
AI 에이전트의 자율성 수준에는 어떤 것들이 있나요?
RSA의 백서에서는 세 가지 원칙을 제시하고 있습니다. 즉, ‘권장만 할 것’, ‘되돌릴 수 있는 방식으로 행동할 것’, ‘한도 내에서 자율적으로 행동할 것’입니다. 에이전트는 한 번에 한 단계씩만 올라가며, 이전 단계의 근거가 이를 뒷받침할 때에만 다음 단계로 넘어갑니다.
AI 에이전트의 경우 서비스 계정 제어만으로는 왜 충분하지 않은가?
서비스 계정은 고정된 작업을 실행하며, 오류가 발생하면 명확하게 알립니다. AI 에이전트는 몇 초 만에 여러 시스템에 걸쳐 수많은 도구 호출을 연쇄적으로 수행하고, 모델이나 프롬프트가 변경되면 동작을 조정하며, 사람을 대신해 행동하고, 읽은 콘텐츠에 따라 방향을 전환할 수 있습니다. 권한 부여는 계정이 아닌 작업별로 결정되어야 합니다.
AI 에이전트가 실수를 저질렀을 때, 누가 책임을 져야 할까요?
이를 도입한 기관. 규제 대상 분야에서는 대리인에 의한 무단 접근이나 데이터 유출이 발생한 경우, 마치 사람이 직접 이를 유발한 것과 마찬가지로 동일한 보고 및 조사 의무가 적용됩니다.