كل وكيل مسؤول أمام شخص ما

قام وكيل داخلي يعمل بالذكاء الاصطناعي في شركة أمازون، ويحمل مؤهلات على مستوى المهندسين، بحذف بيئة الإنتاج وإعادة إنشائها، مما أدى إلى انقطاع خدمة AWS لمدة 13 ساعة تقريبًا. ولم يتورط أي مهاجم في هذا الأمر. فقد قام الوكيل بما سمحت له صلاحياته بالقيام به.

هذا هو نموذج الفشل الذي ينبغي أن يقلق كل مجلس إدارة يعمل حالياً على نشر تقنيات الذكاء الاصطناعي. فالمشكلة ليست في اقتحام دخيل، بل في أن يقوم وكيل مفوض باتخاذ إجراءات أسرع من قدرة أي شخص على مراجعتها، دون أن يرتبط القرار باسم شخصي معين.

لا يمكن لعملاء شركة RSA تحمل هذا النوع من الفشل. فهم يديرون أنظمة الدفع وشبكات الكهرباء وشبكات الدفاع والبنية التحتية للمستشفيات. وبالنسبة لهم، فإن النتيجة السيئة لا تعني مجرد ربع سنة مالي سيئ، بل هي كارثة تؤدي إلى توقف المدفوعات وتباطؤ العلاج وتعريض الأرواح للخطر.

لكن عملاءنا يقومون بنشر الوكلاء على الرغم من المخاطر. فالحجة التجارية وجيهة، ونظراؤهم يقومون بتنفيذ الوكلاء، ولا يمكن لعملائنا تحمل الانتظار. وبالنسبة للمؤسسات ذات المستوى الأمني العالي التي تخدمها RSA، لم يكن السؤال أبدًا ما إذا كانوا سيتبنون الذكاء الاصطناعي القائم على الوكلاء. بل كان السؤال هو ما إذا كان بإمكانها الحفاظ على أمنها، وما إذا كانت الحلول التي تستخدمها قادرة على العمل في البيئات ذات السيادة التي تتطلبها.

وعلى مستوى مختلف القطاعات، لا تستطيع معظم المؤسسات الإجابة على هذه الأسئلة الثلاثة الأساسية للغاية.

1. ما هي الوكلاء التي تعمل في بيئتنا؟
2. من المسؤول عن كل واحد منهم؟
3. هل يستطيع أحد إيقافهم؟

وبدون إجابات واضحة على كل سؤال من هذه الأسئلة، ستصبح المؤسسات عرضة لانتهاكات البيانات المكلفة، وغرامات عدم الامتثال، واضطرابات في سير العمل.

جارتنر تتوقع الدراسة أنه بحلول عام 2028، ستقوم مؤسسة نموذجية من قائمة «جلوبال 500» بتشغيل 150,000 وكيل، بزيادة عن أقل من 15 وكيلًا في عام 2025. وسيكون لكل وكيل بيانات اعتماد خاصة به، ويطلب حق الوصول، ويقوم بتنفيذ المهام. فبرامج إدارة الهوية المصممة لتسجيل الموظفين الجدد، ومراجعة صلاحياتهم مرة واحدة في السنة، وإنهاء خدماتهم عند الاستقالة، لم تُصمم أبدًا لتغطية هذا النطاق الواسع، ولا يمكن لأي قدر من الانضباط في تنفيذ العمليات سد هذه الفجوة يدويًّا.

التكلفة قابلة للقياس. يبلغ متوسط تكلفة الحوادث الأمنية المتعلقة بـ«الذكاء الاصطناعي الخفي» — أي العناصر التي يتم نشرها دون موافقة قسم الأمن أو قسم تكنولوجيا المعلومات — بالفعل $5.39 مليون, ، أي ما يزيد بنحو $400,000 عن متوسط حجم الانتهاكات. وتسير الهيئات التنظيمية في نفس الاتجاه. أكثر من 1,900 تُطبق أطر سياسات الذكاء الاصطناعي واللوائح والمعايير وهيئات الحوكمة في جميع أنحاء العالم، ومن بينها المادة 23 من الجزء 500 من لائحة نيويورك الإدارية (NYCRR)، وقانون الاتحاد الأوروبي للذكاء الاصطناعي، ومذكرة مكتب الإدارة والميزانية (OMB) رقم M-25-21، والمعيار CPS 230 الصادر عن هيئة تنظيم التأمين في أستراليا (APRA).

كل منها يطرح نسخة من السؤال نفسه: ماذا فعل موظفوك، وما هي البيانات التي تعاملوا معها، ومن وافق على ذلك؟ إن المؤسسة التي لا تستطيع الإجابة عن ذلك في يوم ثلاثاء عادي، لن تتمكن من الإجابة عنه أثناء عملية التدقيق.

تم تصميم الذكاء الاصطناعي بهدف السرعة والتنفيذ الفوري. وهنا تكمن قيمته الكاملة، وهذا هو السبب الذي يجعل المؤسسات تميل إلى التفكير في مسألة الأمن بعد وقوع الأمر. ففي غياب أي عوائق، يمكن لوكيل ما تحويل الأموال. وفي غياب الرقابة، يمكنه الاستعلام عن نظام الأمن القومي. وفي غياب الضوابط، يمكنه الوصول إلى سجلات المرضى.

يمكن لبعض الشركات أن تتحمل هذه المقايضة لفترة من الوقت. أما المؤسسات التي تدعم النظام المالي، والحكومات الوطنية، والبنية التحتية الحيوية، فلا يمكنها ذلك. وعندما تكون العواقب كارثية وليست مجرد إزعاج، يجب أن تُفرض الضوابط قبل تدخل الفاعل.

تطلق شركة RSA اليوم «Agent ID»، وهي منصة الأمان القائمة على العوامل (agents) المخصصة للمؤسسات الخاضعة لرقابة صارمة. تعمل هذه المنصة على اكتشاف العوامل وتأمينها وإدارتها عبر السحابة العامة والسحابة الخاصة والبيئات المحلية والبيئات المعزولة تمامًا عن الشبكة الخارجية، كما تتوافق مع مزودي الهوية ونقاط النهاية والنماذج التي تستخدمها المؤسسة بالفعل.

اكتشف وكلاء الذكاء الاصطناعي في جميع أنحاء بيئتك، بدءًا من عمليات النشر المصرح بها وصولاً إلى الوكلاء الخفيين الذين يعملون دون موافقة. ومن خلال ربط إشارات الاكتشاف عبر الهوية والسحابة ونقاط النهاية والبوابة، يتم الكشف عن الوكلاء الذين تفوتهم الأدوات التي تعتمد على طريقة واحدة. ويتم إدراج كل وكيل يتم اكتشافه في سجل موحد وقابل للبحث، مع تعيين مالك له وتوفير رؤى حول حالته الأمنية للمسؤولين.

تطبق Secure مبدأ «أقل الامتيازات» على مدار دورة حياة الوكيل بأكملها، وتقوم بفحص استدعاءات الأدوات قبل تنفيذها. وتتطلب الإجراءات عالية المخاطر — مثل التحويل المصرفي أو أي طلب يتعلق ببيانات سرية — موافقة من شخص حقيقي تمت مصادقته ويمكن محاسبته. ويقوم «مفتاح الإيقاف» بإنهاء وصول الوكيل في اللحظة التي يصبح فيها هذا الوصول غير مبرر.

يُصدر نظام «Govern»، الذي سيتوفر في أوائل عام 2027، شهادات وصول الوكلاء بشكل مستمر بدلاً من سنوي، ويُجري مراجعات للوصول تستند إلى تقييم المخاطر، ويُنتج أدلة جاهزة للتدقيق ومتوافقة مع الأطر المرجعية التي يستشهد بها المراجعون.

تعمل الوحدات الثلاث بشكل مستقل أو كنظام واحد. وتغطي هذه الوحدات مجتمعةً مسار الوكيل بدءًا من اكتشافه لأول مرة وحتى إيقاف تشغيله عبر السحابات العامة وعمليات النشر ذات السيادة.

بالنسبة لمعظم البرامج، يُعد المكان الذي يتم تشغيلها فيه مجرد تفصيل من تفاصيل عملية الشراء. أما بالنسبة لوزارة الدفاع أو البنك المركزي، فهو الشرط الذي يحدد ما إذا كان بإمكان الموظفين الحفاظ على أمنهم أم لا.

يعمل معرّف الوكيل (Agent ID) في سحابتك الخاصة أو في مرافقك المحلية أو في بيئة معزولة تمامًا عن الشبكة الخارجية، وتظل الوكلاء خاضعة للرقابة حتى عند انقطاع الاتصال بالشبكة. والسبب في ذلك هو الاختصاص القضائي. يجب أن تكون المؤسسة الخاضعة للتنظيم قادرة على تحديد مكان تخزين بياناتها، والقانون الذي يحكمها، والسلطة الأجنبية التي يمكنها إجبارها على السماح بالوصول إليها. ويُعقّد الوكيل الإجابة على هذا السؤال بطريقة لا يفعلها التطبيق العادي. يمكن للوكلاء قراءة السجلات، واستدعاء الأدوات، وإنشاء بيانات قياس عن كل من هذه الإجراءات. وإذا كانت طبقة التحكم التي تحكم الوكيل موجودة في بلد آخر، فإن الأدلة على ما فعله الوكيل تكون موجودة هناك أيضًا. يسأل المدققون الذين يعملون بموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي (EU AI Act) أو اللائحة العامة لحماية البيانات (GDPR) أو قواعد الإقامة الوطنية للبيانات عن طبقة الحوكمة، وليس فقط عن حجم العمل.

تُبرز الشبكات المعزولة عن الإنترنت هذه المشكلة بشكل ملموس. فالأنظمة الحكومية السرية، وشبكات الدفاع، وأجزاء من البنية التحتية للمدفوعات وشبكات الكهرباء، يتم عزلها عمدًا عن الإنترنت العام. ولا يمكن لمنصة أمنية تعمل عبر وكلاء، وتحتاج إلى الوصول إلى حساب مستأجر السحابة الخاص بأحد الموردين، أن تعمل هناك على الإطلاق. لا يتم اكتشاف أي شيء، ولا يتم التصريح بأي شيء، ولا يتم اعتماد أي شيء. وينتهي الأمر بالمؤسسات التي تشغل الوكلاء الأكثر أهمية إلى أن تكون الأقل خضوعًا للرقابة، مما يعكس الهدف الذي وُضعت اللوائح لتحقيقه.

تدرك المؤسسات ذات الإجراءات الأمنية المشددة التي تقدم لها RSA خدماتها أن السيادة والرقابة يسيران جنبًا إلى جنب. وبالنسبة لهذه المؤسسات، فإن السيادة دون رقابة ما هي إلا مسرحية. أما الرقابة دون سيادة فهي غير مكتملة.

قضت شركة RSA أكثر من 40 عامًا في تأمين الأنظمة التي تدير شؤون العالم، ولم يتغير المبدأ الذي يقوم عليه هذا العمل مع ظهور «Agent ID». فكل هوية ترتبط بشخص ما. ولا يُستثنى «الوكلاء» من هذا المبدأ لمجرد أنهم سريعون أو مفيدون أو يصعب حصرهم.

لن تخضع الذكاء الاصطناعي التفاعلي لوثائق السياسات. بل ستخضع لآليات تحكم تعمل بسرعة الآلة، ولسجل تدقيق يربط كل إجراء ذي تأثير بالشخص الذي أذن به. هذا هو المعيار الذي نلتزم به، وهو ما قمنا بدمجه في «Agent ID».

العملاء موجودون بالفعل في بيئتك. وتتمثل المهمة الآن في إثبات أنك تعرف أين يتواجدون، وما الذي يمكنهم الوصول إليه، ومن يتحمل المسؤولية عنهم.

اتصل بشركة RSA لمعرفة المزيد عن «RSA Agent ID».