المؤسسات التي تعمل معها شركة RSA — مثل البنوك والهيئات الحكومية وقطاع الدفاع والبنية التحتية الحيوية — تتحرك ببطء فيما يتعلق بوكلاء الذكاء الاصطناعي. ويُفسر هذا الحذر على أنه مقاومة للتغيير. لكنه ليس كذلك. إنه تقييم مدروس. ففي هذه القطاعات، الفشل لا يعني مجرد احتكاك بسيط. بل الفشل هو تعطل عملية دفع، أو تأخير في تقديم العلاج، أو انقطاع التيار الكهربائي.
حوالي 70% في القطاعات ذات الإجراءات الأمنية المشددة، يمثل الأمن والخصوصية أكبر العوائق التي تحول دون اعتماد الوكلاء الرقميين. وهذا لا يعود إلى الخوف من الجديد، بل هو تقييم دقيق للمخاطر.
تاريخياً، كانت البرامج التي تستخدمها البنوك والجهات الحكومية وجميع المؤسسات تستند إلى افتراض بسيط: أن هذه الحلول تؤدي في الغالب ما يُطلب منها، ولا شيء أكثر من ذلك. وفي الأسبوع المقبل، خلال مؤتمر الذكاء الاصطناعي في سان فرانسيسكو، سأشرح كيف يكسر «الوكلاء» هذا الافتراض.
يمكن للوكلاء تنفيذ ما تأمرهم به. لكنهم قادرون أيضًا على القيام بأكثر من ذلك بكثير. وهذا ينطوي على مخاطر جديدة ليست معظم الصناعات ذات الإجراءات الأمنية المشددة مستعدة لمواجهتها.
إحدى الخرافات التي تعرقل تقريبًا كل برنامج وكيل في مراحله الأولى هي أن «موقع تخزين البيانات» يساوي «السيادة». إن «موقع التخزين» يجيب على سؤال واحد: أين تُخزَّن البيانات في حالة السكون؟ ما عليك سوى الاحتفاظ بها في المنطقة المناسبة، وفي السحابة المناسبة، وبموجب العقد المناسب، وبذلك تكون قد استوفيت متطلبات موقع التخزين.
لا تحترم الوكالات هذا الحد الفاصل، لأن الوكالات لا تعمل على البيانات المخزنة. فهي تستقيها، وتحللها، وتتصرف بناءً عليها — بشكل مستقل وديناميكي. فالنموذج المستضاف في إحدى الولايات القضائية يحلل بيانات العملاء الواردة من ولاية قضائية أخرى. تنتهي الحقول الحساسة في المطالبات، والذاكرة، والسجلات، والتضمينات الموجودة خارج نظام التسجيل الخاص بك. تم نقل البيانات، ولم يكن لمكان التخزين أي دور في هذا النقل. وهذا النقل هو المكان الذي تنهار فيه السيادة فعليًّا.
نحن نستخدم الوكلاء لما يتمتعون به من استقلالية. فهم يتصرفون دون انتظار أن يُطلب منهم ذلك، وهذه ميزة قيّمة حقًّا — بل إنها، في الواقع، جوهر الأمر برمته.
لكن الاستقلالية لا تنفصل عن السلطة. فالجهة التي يمكنها التصرف نيابة عنك قادرة على تحويل الأموال، أو منح صلاحيات الوصول، أو تعديل سجل ما، أو تشغيل نظام آخر. والقدرة التي اشتريتها أصبحت الآن المخاطر التي تتحملها.
وهذا أحد الأسباب التي تجعل القطاعات الخاضعة لرقابة صارمة محقة في توخي الحذر عند تطبيق خدمات الوكلاء. لأنه عندما تفعل ذلك، فإنها لا تقوم فقط بنشر أداة ما، بل تفوض سلطة. ومعظم المؤسسات لم تحدد نطاق ما قامت بتسليمه.
في هذه الجلسة، أقوم بتقسيم المشكلة إلى أربع نقاط تحكم. وتتجاوز هذه النقاط المنظور المعتاد الذي يقتصر على البيانات والبنية التحتية، لأن الوكيل لا يقتصر دوره على التعامل مع البيانات فحسب:
القرار: من يتحكم في النتيجة في هذه اللحظة بالذات؟
يمكن للوكيل الذي يتمتع بصلاحيات راسخة وواسعة النطاق أن يصرح باتخاذ إجراء ذي عواقب جسيمة دون تدخل بشري. تنهار سلاسل التفويض، ولا يمكنك إثبات أن الإجراء يعود إلى شخص مسؤول. المراجعة الموجودة على الورق، لكنها تفشل بسبب ضغوط زمن الاستجابة، تؤدي إلى «الفشل المفتوح» بدلاً من «الفشل الآمن».
البيانات: ما الذي يمكن للوكيل معرفته، ولمسه، وحمله؟
إلى جانب مسألة الإقامة، هناك مسألة النسب: هل يمكنك توضيح ما رآه الوكيل وما استخدمه لاتخاذ قرار بعد وقوع الحدث؟ يمكن أن يؤدي الإدخال الفوري للمعلومات إلى تحويل وثيقة مسمومة إلى تعليمات لتسريب المعلومات. وبدون التصنيف وتقليل الحجم في مرحلة التنفيذ، تتدفق البيانات الحساسة دون رقابة.
البنية التحتية: أين تعمل، وتحت سيطرة من؟
لا توفر البيئة المشتركة متعددة المستأجرين أي ضمان للعزل القضائي أو المادي. فقد يؤدي الاستدلال المستضاف في السحابة إلى إعادة ظهور نفس المخاطر التي اعتقدت المؤسسة أنها قد حلتها باستخدام التخزين المحلي، دون أن يلاحظ أحد ذلك. ولا يمكن للبيئات السرية استدعاء واجهات برمجة تطبيقات (API) للنماذج المستضافة على الإطلاق — وهكذا تنشأ الحلول البديلة الخفية.
النظام البيئي: ما هي العوامل الأخرى التي يمكن للوكيل أن يؤثر عليها أو يتصرف من خلالها؟
تتصل الوكالات بأدوات وخوادم تابعة لأطراف ثالثة لم يخضع أي منها للتدقيق أو التسجيل. ويمكن لأي أداة تابعة في سلسلة العمليات تم اختراقها أن تعمل من خلال الصلاحيات الممنوحة مسبقًا لوكالتك. كما أن وكالات الشركاء والموردين ترث حقوق الوصول بشكل انتقالي، ولا يوجد مكان واحد في سلسلة التوريد التي تتألف من وكالات تستدعي وكالات أخرى لفرض السياسات أو تدقيقها.
ما عليك سوى نشر وكيل واحد لتتمكن من العمل عبر جميع المجالات الأربعة في آن واحد، سواء كنت قد حددت نطاقها أم لا.
تعتبر الضوابط على مستوى المطالبات والنماذج ذات طبيعة احتمالية. فهي تقلل من احتمالية حدوث نتيجة سيئة؛ لكنها لا توفر ضمانًا. ولا يمكن للقطاعات الخاضعة للتنظيم أن تتحقق من “ما لم يحدث على الأرجح”. يمكن لآلية الحماية أن تكتشف نمطًا سيئًا معروفًا، لكنها لا تستطيع التحقق من هوية الوكيل، أو المكان الذي يعمل فيه، أو ما هو مسموح له بالقيام به في حالة إجراء جديد.
يعني «الضمان العالي» أن يرتكز كل إجراء على الهوية. يحتاج الوكيل إلى هوية قابلة للتحقق منها وسلطة محددة النطاق وقابلة للإثبات، بحيث يرتبط كل إجراء بفاعل معروف، وتفويض معروف، وسلسلة قابلة للتدقيق. الهوية هي الركيزة التي ترتكز عليها نقاط التحكم الثلاث الأخرى — التحكم في القرار، وإدارة البيانات، والتحقق من البنية التحتية، وتقييد النظام البيئي، وكل ذلك في مواجهة جهة فاعلة يمكنك تحديد هويتها فعليًّا. إذا أخطأت في تحديد الهوية، فإن النقاط الثلاث الأخرى تصبح مجرد تخمينات.
قبل أن تسمح لوكيل ما بالتصرف، يجب أن تكون قادرًا على الإجابة عن الأسئلة التالية: من الذي أذن بذلك؟ أين تم تنفيذه؟ ما هي البيانات التي يمكنه الوصول إليها؟ هل يمكنك إثبات ذلك؟
إذا كانت هذه الإجابات واضحة ومتسقة وقابلة للتدقيق، فيمكنك المضي قدمًا بسرعة في مجال الذكاء الاصطناعي مع اجتياز عملية التدقيق في الوقت نفسه. أما إذا لم تكن كذلك، فأنت لا تدير الوكلاء — بل تعتمد على الأمل فحسب. السيادة هي موقف، وليست شهادة. وهي مستمرة وقابلة للتدقيق، لأن الوكلاء يعملون بشكل مستمر، وأي ضابط لا يمكنك إثباته عند الطلب ليس ضابطًا.
السيادة الفاعلة هي القدرة على الاحتفاظ بـ سيطرة قابلة للإثبات على ما يقرره الوكيل الذكي المستقل، وما يلمسه، وما يعمل عليه، وما يتصرف من خلاله — بشكل مستمر و بطريقة تفي بمتطلبات عمليات التدقيق. على عكس سيادة البيانات، التي تتعلق بمكان وجود البيانات يقيم, ، تتعلق السيادة الفاعلة بالسلطة في حالة حركة: فكل قرار يتخذه الفاعل يجعل وكل إجراء تتخذه نيابة عنك.
لا. تنظم قواعد «مقر البيانات» المكان الذي تُخزَّن فيه البيانات في حالة السكون. أما وكلاء الذكاء الاصطناعي فيتعاملون مع البيانات أثناء انتقالها — فهم يلتقطونها، ويحللونها، ويتصرفون بناءً عليها بشكل ديناميكي، وغالبًا ما يكون ذلك عبر ولايات قضائية مختلفة وخارج نظام التسجيل. ولا تتطرق قواعد «مقر البيانات» إلى هذا الانتقال، وهذا بالضبط هو المكان الذي تنهار فيه السيادة.
لأن تكلفة الفشل باهظة — تعطل عملية دفع، أو تأخير في العلاج، أو انقطاع في شبكة الكهرباء — وليست مجرد إزعاج بسيط. ويُعد الأمن والخصوصية العائق الأول المذكور الذي يعيق تبني هذه التقنيات لدى ما يقارب 70% من المؤسسات ذات الإجراءات الأمنية المشددة. ويعكس هذا الحذر فهمًا دقيقًا للمخاطر، وليس مقاومة للتغيير.
القرار (من يتحكم في النتيجة وما إذا كان الإنسان مسؤولاً)، والبيانات (ما يمكن للوكيل معرفته وحمله، وما إذا كان من الممكن تتبع مصدرها)، والبنية التحتية (أين يعمل الوكيل وتحت سيطرة من)، والنظام البيئي (ما هي الأدوات والوكلاء الآخرون الذين يمكن للوكيل التأثير عليهم أو العمل من خلالهم). يتم نشر كل وكيل عبر هذه العناصر الأربعة في آن واحد.
تعتبر الضوابط على مستوى المطالبات والنماذج ذات طبيعة احتمالية. فهي تقلل من احتمالية حدوث نتيجة سلبية، لكنها لا توفر ضمانًا، ولا يمكن للقطاعات الخاضعة للتنظيم تدقيق ما “لم يحدث على الأرجح”. ويمكن أن تشير إحدى الضوابط إلى نمط سيئ معروف، لكنها لا تستطيع التحقق من هوية الوكيل وبيئته وصلاحياته فيما يتعلق بإجراء جديد.
يعني «الضمان العالي» أن كل إجراء يقوم به الوكيل يستند إلى هوية قابلة للتحقق منها وسلطة محددة النطاق وقابلة للإثبات، بحيث يرتبط بفاعل معروف، وتفويض معروف، وسلسلة قابلة للتدقيق. الهوية هي الركيزة الأساسية؛ فالتحكم في القرارات والبيانات والبنية التحتية والنظام البيئي يعتمد كله على القدرة على تحديد هوية الفاعل الذي يقف وراء الإجراء.
ثالثًا: من الذي أذن بذلك؟ أين تم تنفيذه؟ هل يمكنك إثبات ذلك؟ إذا كان بإمكانك الإجابة على هذه الأسئلة الثلاثة بشكل مستمر وعند الطلب، فيمكنك التحرك بسرعة مع اجتياز عملية التدقيق في الوقت نفسه. أما إذا لم تتمكن من ذلك، فأنت لا تدير الوكيل — بل تثق به.
