فجوة التفويض: لماذا لا تصلح ضوابط الأمس لوكلاء اليوم؟
قد يكون هناك الآن داخل شركتك وكيل ذكاء اصطناعي ينفذ إجراءً لم يوافق عليه أحد ولا يراقبه أحد. وقد أظهرت تقييمات حديثة أن الوكلاء قد يتجاوزون حدود الاختبار وهم ما يزالون يسعون إلى إنجاز المهمة المسندة إليهم. وفي أستراليا، استغل مساعد ذكاء اصطناعي طُلب منه حجز حصة في نادٍ رياضي ثغرة في نظام الحجز، فحصل على موعد خارج النافذة المسموح بها، ثم أزال عميلاً آخر من قائمة الانتظار. وفي كل هذه الحالات، كان الوكيل لا يزال يلاحق الهدف الذي أُعطي له.
تركز جانب كبير من القلق حول وكلاء الذكاء الاصطناعي على الوكيل الذي يتخذ قرارًا سيئًا ثم ينفذه بثقة كاملة. لكن مشكلة الضبط الأصعب هي وكيل يصل إلى الهدف الصحيح بوسيلة خاطئة. فحتى وهو يعمل داخل تعليماته وصلاحياته، يستطيع الوصول إلى سجلات العملاء، وتحريك الأموال، والتحدث باسم الشركة بتركيبات من الأفعال لا يقدم عليها موظف، ولم تُبنَ التطبيقات التقليدية للسماح بها.
ينبغي لكل رئيس تنفيذي أن يستطيع الإجابة عن 4 أسئلة: ما الوكلاء العاملون في بيئة الشركة؟ وما الذي فُوّضوا بفعله؟ ومن فوّضهم بهذه السلطة؟ وما الذي يوقف وكيلاً يلاحق هدفه بالطريقة الخاطئة؟ والحل المقترح هو طبقة ضبط موحدة تمتد عبر البشر والتطبيقات والوكلاء، وتقوم على تفويض مقيّد بالغرض والسلوك.
ضوابط اليوم لا تعمل مع الوكلاء
تمنح الشركات وكلاء الذكاء الاصطناعي وظائف حقيقية: وكيل خدمة العملاء يحل التذاكر ويصدر المبالغ المستردة، ووكيل المشتريات يقارن الموردين ويصدر أوامر الشراء، ووكيل البرمجة يكتب البرمجيات ويدفعها إلى بيئة الإنتاج، ووكيل المالية يطابق الحسابات عبر الأنظمة. وكل واحد من هؤلاء يحتاج إلى وصول فعلي، لكن الشركات تمنحه هذا الوصول عبر ضوابط صُممت للبشر أو للبرمجيات التقليدية. وكلا الإطارين يفشل عندما يكون الفاعل وكيلاً للذكاء الاصطناعي، وإن كان كل منهما يفشل بطريقة مختلفة.
ضوابط وصول البشر تفترض وجود الحكم البشري
تمنح الشركات الموظفين وصولاً واسعًا وتعتمد على حكمهم البشري لإبقائه آمنًا. فقد يستطيع موظف خدمة العملاء الاطلاع على تاريخ الحساب وإرسال رسائل باسم الشركة، وربما يمتلك تقنيًا القدرة على تصدير قائمة العملاء ومراسلة الجميع، لكنه لا يفعل ذلك عادة. كما أن الموظف يمكن فصله أو مقاضاته أو ملاحقته جنائيًا، بينما لا ينطبق ذلك على وكيل ذكاء اصطناعي.
يمكن منح وكيل خدمة عملاء يعمل بالذكاء الاصطناعي بيانات الاعتماد نفسها وتمريره عبر تسجيل الدخول نفسه الذي يستخدمه الموظف. ومن تلك اللحظة قد تفقد الشركة الرؤية الدقيقة أو السيطرة على كيفية استخدام هذا الوصول إلى أن يصبح الوقت متأخرًا. فلا شيء يقارن نشاط الوكيل بالمهمة التي كُلّف بها. وقد يسحب 10,000 سجل حساب بينما تتعلق التذكرة بحساب واحد، ويربط ملف العميل بنظام البريد الإلكتروني بطريقة لم يفعلها أي موظف، وينجز ذلك كله في أقل من دقيقة دون تشغيل أي ضابط.
كما يهدم الوصول الواسع ضمانة اعتمدت عليها الشركات لعقود: فصل المهام عالية المخاطر بين أشخاص مختلفين كي لا يتمكن فاعل واحد من إتمام العملية منفردًا. ففي الحسابات الدائنة، لا يكون من يدخل الفاتورة هو من يعتمد الدفع. لكن منح وكيل واحد وصولاً واسعًا قد يتيح له تجاوز هذا الحد بإدخال الفاتورة واعتماد الدفع بنفسه. ويمكن لوكيل ثانٍ أن يكون جهة التحقق، ولكن فقط إذا صُممت استقلاليته هندسيًا، وهو ما لا تفرضه أطر الوصول الحالية.
ضوابط طبقة التطبيقات محدودة السلوك، أما الوكلاء فلا
لأن الوكلاء برمجيات، تفترض فرق الأمن أحيانًا أن ضوابط الاتصال التقليدية بين التطبيقات هي الطبقة المناسبة لحوكمتهم. غير أن صلاحيات التطبيقات تستند إلى سلوك محدود ومثبت في الشفرة. فنظام الرواتب يسحب من قاعدة بيانات الموارد البشرية، ونظام الفوترة يتصل بنظام إدارة علاقات العملاء، وتُعد هذه الروابط آمنة لأن التطبيق لا يفعل إلا ما بُرمج لفعله. برنامج الفوترة لا يقرر من تلقاء نفسه مراسلة العملاء، وأداة توقيع المستندات لا تتجول في ملفات الموظفين. موثوقية الصلاحية تأتي من ثبات السلوك الذي يقف خلفها.
أما سلوك الوكيل فليس ثابتًا. وكيل مشتريات طُلب منه خفض تكاليف الموردين قد يرتجل مساره الخاص إلى الهدف مستخدمًا كل نظام يستطيع الوصول إليه، وقد يختلف المسار الذي يسلكه الشهر المقبل عن مساره عند الإطلاق. وعندما يحدث خلل، لا يوجد دائمًا مورد يمكن الرجوع إليه؛ فكثير من الوكلاء يُبنون داخليًا، أو يُجمعون من مكونات مفتوحة المصدر، أو ينشئهم مستخدم أعمال بمفتاح واجهة برمجة تطبيقات (API)، ولذلك تبقى مسؤولية سلوكهم داخل الشركة.
إنشاء إطار ثالث لا يعالج السلوك العابر للمجالات
استجابت الصناعة لهذه التحديات بإنشاء إطار ضبط خاص بالوكلاء. وأصبح كبار مزودي الهوية والمعايير الناشئة يوفرون للوكلاء نوع هوية مخصصًا، ودورة حياة لبيانات الاعتماد، وطبقة سياسات موازية لتلك التي تحكم البشر والتطبيقات.
هذه خطوة ضرورية، لكنها لا تحل إلا جزءًا من المشكلة. فهي تحكم ما يفعله الوكيل، ولا تستطيع وحدها حكم ما تسببه مخرجاته. ففي واقعة لدى شركة تقنية كبيرة، نشر وكيل دعم داخلي — كانت صلاحياته مقتصرة على قراءة الوثائق ونشر الإجابات في قنوات معتمدة — إرشادات تقنية معيبة في منتدى هندسي. وثق مهندس بالإرشادات وتصرف بناءً عليها، ما كشف معلومات حساسة لمدة ساعتين. لم يتجاوز الوكيل صلاحياته، لكن الضرر انتقل عبر شخص صدّق مخرجاته، مع أن ضوابط جانب الوكيل كلها ظلت قائمة.
لهذا لا يمكن عزل هوية الوكيل في إطار مستقل. فالوكلاء يعملون عبر 3 مجالات: البشر، والتطبيقات، ومجال الوكلاء نفسه، وسيعبرون أضعف نقاط الضبط أثناء سعيهم إلى أهدافهم. وتتطلب الحوكمة تقوية الضوابط في المجالات الثلاثة تحت نموذج تفويض واحد يمتد بينها، بحيث يمكن تتبع الضرر أينما ظهر في السلسلة إلى الوكيل الذي أطلقه. ويشير المقال إلى أن ورقة مفاهيمية للمعهد الوطني للمعايير والتقنية (NIST) في فبراير 2026 اتجهت إلى النتيجة نفسها، باقتراح إدارة هوية الوكيل داخل أنظمة هوية المؤسسة بالصرامة ذاتها المطبقة على البشر.
يعتمد على الحكم البشري والعواقب.
يعتمد على سلوك ثابت في الشفرة.
يعتمد على هوية وصلاحيات مخصصة.
نموذج تفويض واحد يُطبق باستمرار عبر المجالات ونقاط التسليم بينها.
التفويض المقيّد بالغرض والسلوك يمنح الوكلاء سلطة ذات حدود
قبل أن تقرر الشركة ما الذي يُسمح لوكيل الذكاء الاصطناعي بفعله، يجب أن تقرر ما الآمن أن يفعله، وكيف يُسمح له بتنفيذه. ولا تستطيع وظيفة أعمال واحدة الإجابة عن هذين السؤالين منفردة. فمسؤول المخاطر يحدد شهية المخاطر وحدود التصعيد، وفريق الأمن يصمم الضوابط التي تفرضها، ومالك العمل يحدد وظيفة كل وكيل والقيود على طريقة أدائها. والإطار الناتج هو «التفويض المقيّد بالغرض والسلوك»: الغرض يحدد ما يُسمح للوكيل بتحقيقه، والسلوك يضع حدودًا لكيفية سعيه إلى ذلك الهدف، بما يشمل شروط الخدمة وحقوق الأطراف الثالثة والآثار الواقعة على الآخرين.
ما الذي يجوز للوكيل تحقيقه.
كيف يجوز له السعي إلى تحقيقه.
يتصرف الوكيل بصفته هو نفسه، لا تحت تسجيل دخول موظف.
تُصدر الصلاحية للفعل وتُعاد موازنتها عند تغير المهمة.
تتحقق ضوابط حتمية من أن الفعل المسموح أو الخطِر مناسب.
يمكن لمالك محدد الاعتماد، واستدعاء الإجراء، وإيقافه.
تُسجل الغاية والسلوك والسياق والضوابط التي عملت.
هل نستطيع تحديد الفاعل والسلطة التي تقف خلفه؟
عندما يتصرف وكيل، ينبغي للنظام أن يرى هوية الوكيل، والشخص أو وظيفة الأعمال التي يتصرف نيابة عنها، والغرض الذي مُنح التفويض لخدمته. لكن معظم الأنظمة اليوم تسجل بيانات الاعتماد فقط؛ لذلك يظهر الوكيل الذي يعمل تحت تسجيل دخول موظف في كل السجلات كما لو كان الموظف نفسه. وعندما يحدث خطأ، يشير السجل إلى شخص لم ينفذ الفعل أصلًا.
الوكيل المفوض بتحليل شكاوى العملاء يجب ألا يكتسب وصولاً أوسع عندما يستدعي أداة أخرى، وإذا أُلغي التفويض الأصلي فينبغي أن يتوقف كل ما يقع بعده. وهذا يتطلب نسيج هوية متكاملاً يمثل الوكلاء بوصفهم فاعلين قابلين للتعريف داخل نظام هوية المؤسسة، مع إمكانية تتبع التفويض إلى الشخص أو العملية أو جهة الحوكمة التي اعتمدت استخدامهم.
هل نستطيع ربط السلطة بالغرض والسلوك؟
ينبغي لكل طلب تفويض ذي معنى أن يحمل غرض الوكيل وقيود السلوك والسياق ذي الصلة. قد يحتاج وكيل التحصيل إلى سجلات المدفوعات للمساعدة في معالجة الحسابات المتأخرة، لكن هذا الوصول لا ينبغي أن يسمح له ببناء قائمة تسويقية من البيانات نفسها، أو استنتاج العملاء الأكثر هشاشة، أو الاتصال بعميل عبر قناة غير معتمدة، أو استخدام خدمة لطرف ثالث بما يخالف شروطها. لذلك يجب على النظام تقييم الغرض الذي تخدمه الصلاحية والقيود على طريقة استخدامها معًا.
يوضح مثال حجز النادي الفرق: كان الوكيل مفوضًا بحجز حصة، لكنه أثناء التنفيذ استغل نظام الحجز وأزاح عميلاً آخر. لذا يجب تقييم الفعل في ضوء المهمة المعتمدة وحدودها، والبيانات المعنية، وحالة سير العمل، والأثر على العميل أو الموظف، ودرجة مخاطر الوكيل. وقد يتطلب ذلك لدى الفرق التقنية سياسات في صورة شفرة (Policy as Code)، ومواصفات منظمة للغرض والسلوك، ومحركات سياسات أثناء التشغيل، وقواعد مضبوطة بالإصدارات. ومع تغير وظيفة الوكيل بتغير احتياجات العمل وسير العمليات، يجب مراجعة غرضه وسلوكه وإعادة اعتمادهما دوريًا، وربما بوتيرة مرتفعة لأن سلوك الوكيل قد يتغير مع كل تحديث للنموذج.
هل نستطيع التحقق من الأفعال أثناء تشغيل الوكيل؟
حتى الوكيل المحدد الهوية والمقيّد بالغرض والسلوك قد يخطئ، لذلك يجب أن تعمل الضوابط أثناء التشغيل. يستخدم بعض الموردين الذكاء الاصطناعي للحكم على مدى التزام سلوك الوكيل بالحدود الموضوعة، وقد يناسب ذلك الأعمال منخفضة المخاطر. لكن عندما تكون كلفة الخطأ مرتفعة، ينبغي أن يكون الضابط حتميًا: قاعدة ثابتة تعمل في كل مرة، لا نظامًا احتماليًا يراقب نظامًا احتماليًا آخر. فعلى وكيل المدفوعات مثلاً أن يصطدم بسقف صلب لا ينفذ ما فوقه دون اعتماد بشري مهما بدا منطقه سليمًا.
تختلف العتبة باختلاف سير العمل. يمكن لوكيل بحث داخلي أن يعمل باستقلالية واسعة، بينما يحتاج الوكيل الذي يحرك الأموال أو يغير استحقاقات العملاء أو يحدث أنظمة الإنتاج أو يتواصل خارجيًا إلى تدخل بشري في نقاط محددة. ويجب تصميم المراجعة بحيث يستطيع الإنسان الرفض فعلًا. أما المراجع الذي يتلقى طلبًا غامضًا بعد أن يكون الوكيل قد أنجز معظم العمل فسيصبح مجرد ختم موافقة؛ والمراجعون يحتاجون إلى السياق والسلطة والوقت ليقولوا «لا».
هل نستطيع إسناد المساءلة؟
ينبغي للشركة أن تستطيع تسمية مالك تفويض الوكيل من البداية إلى النهاية. وإذا كانت الإجابة ثلاث وظائف تشير كل منها إلى الأخرى، فلا أحد يملك المسؤولية. يجب أن تعود المساءلة إلى الأشخاص الذين وافقوا على نشر الوكيل، وحددوا غرضه وحدوده، ومنحوه الوصول. كما يجب أن يحدد نموذج التشغيل من يملك سلطة إيقاف الوكيل؛ فمفاتيح الإيقاف وقواطع الدائرة وإلغاء الوصول لا تفيد إلا إذا كان هناك شخص يملك صلاحية واضحة لاستخدامها.
هل نستطيع إعادة بناء ما حدث؟
تسجل أنظمة تدقيق كثيرة اليوم بيانات الاعتماد التي أطلقت استدعاء واجهة برمجة التطبيقات فقط. وهذا غير كافٍ عندما يكون حامل بيانات الاعتماد وكيلاً ينفذ الخطوة 47 من سير عمل بدأ قبل 3 عمليات تفويض.
يجب أن يساعد مسار التدقيق المفيد القادة بعد الحادث على الإجابة عن أسئلة عملية: ما الذي كان الوكيل يحاول فعله؟ وهل كان الفعل ضمن غرضه المعتمد؟ وهل التزم بقيود طريقة السعي إلى الغرض؟ وما البيانات التي لمسها؟ وما الأدوات التي استدعاها؟ وما الضوابط التي اشتغلت؟ ومن أُبلغ؟ ومن كان يملك سلطة إيقافه؟ ومن دون هذا السجل قد تعرف المؤسسة أن شيئًا ما حدث، لكنها لا تستطيع تفسير لماذا حدث، ومن فوّضه، وكيف تمنع تكراره.
التنظيم يعزز الحاجة إلى التحرك
قد لا يستخدم المنظمون عبارة «تفويض الوكيل»، لكن كثيرًا من القواعد القائمة يشير بالفعل في هذا الاتجاه. فالمؤسسات المالية وغيرها من المنشآت المنظمة تواجه التزامات تتعلق بإدارة الهوية، والوصول ذي الامتيازات، وقابلية التدقيق، وفصل الواجبات، والإشراف البشري. ويجعل الوكلاء الوفاء بهذه الالتزامات أكثر صعوبة.
إذا عمل الوكيل ببيانات اعتماد بشرية، فقد يظهر مسار التدقيق الموظف بدلاً من الفاعل الآلي. وإذا استدعى الوكيل أنظمة متعددة، فقد لا يسجل أي تطبيق منفرد سير العمل كاملاً. وإذا تعاون الوكلاء أو شغّل بعضهم بعضًا، فقد تجد المؤسسة صعوبة في تفسير سلسلة التفويض.
يشير المقال إلى أن قانون المرونة التشغيلية الرقمية للاتحاد الأوروبي (DORA) يلزم الكيانات المالية بإدارة الوصول التقني وفق مبادئ مثل الحاجة إلى المعرفة، وأقل قدر من الصلاحيات، والمصادقة القوية، وفصل الواجبات. وأي مؤسسة تسمح للوكلاء بالوصول إلى أنظمة منظمة أو استرجاع بيانات العملاء أو تشغيل تدفقات عمل أو استخدام بيانات اعتماد مميزة ستحتاج إلى تفسير كيفية ضبط تلك الأفعال. كما تتحرك ولايات قضائية كبرى أخرى في اتجاهات مشابهة، مع تركيز على المساءلة، وحصر أنظمة الذكاء الاصطناعي، والإشراف المتناسب مع المخاطر.
ولا ينبغي أن تكون التوجيهات التنظيمية السبب الوحيد للتحرك. فمن المتوقع أن تعرف الشركات أي فاعلين غير بشريين يعملون في بيئاتها، وما الذي يستطيعون فعله، وكيف تُقيّد سلطتهم، ومن يتحمل مسؤولية سلوكهم.
خطوات ينبغي للقادة اتخاذها خلال الربع المقبل
لا تحتاج الشركات إلى انتظار نضج المعايير الرسمية. ويمكنها البدء بالوكلاء الموجودين بالفعل داخل أنظمة المؤسسة وبمسارات العمل التي سيكون للفشل فيها أثر مهم.
اعثر على جميع الوكلاء وحدد الغرض وقيود السلوك لكل واحد. أنشئ حصرًا للوكلاء العاملين أو قيد التطوير، وحدد المالك، والأنظمة والبيانات التي يلمسها، وبيانات اعتماده، ومن أجاز نشره، والغرض والحدود التشغيلية المسجلة. ويشمل ذلك التجارب والوكلاء المبنيين داخليًا وأدوات الموردين وعمليات النشر التي تقودها وحدات الأعمال.
رتب كل وكيل بحسب احتمال وأثر تجاوز تفويضه. ارسم التعرض عبر 3 حلقات: الأنظمة التي يصل إليها مباشرة، والأنظمة التي يمكن الوصول إليها عبر الأدوات والوكلاء الذين يتفاعل معهم، والآثار اللاحقة وراء ذلك. وطبّق منظور كلفة الخطأ، وأعط الأولوية للوكلاء الذين يصلون إلى بيانات العملاء أو المعلومات المنظمة أو الاتصالات الخارجية أو حركة الأموال أو أنظمة الإنتاج.
اختبر الضوابط على الوكلاء الأعلى مخاطرة. قيّد الوصول إلى الأنظمة الخارجة عن الغرض، واضبط المسارات التي قد تسمح بأفعال خارج الحدود. استخدم فحوصًا آلية عندما تكون المخاطر منخفضة، وقواعد حتمية واعتمادًا بشريًا عندما تكون المخاطر مرتفعة، وحدد عتبات التصعيد وسلطة مفتاح الإيقاف ومتطلبات التدقيق ودورية إعادة الاعتماد.
وهذه أيضًا لحظة إسناد الملكية. فمسؤول المخاطر، ومسؤول أمن المعلومات، ومسؤول تقنية المعلومات، وقادة الأعمال، والشؤون القانونية، والامتثال، وفرق مخاطر النماذج، لكل منهم دور. لكن المؤسسة تحتاج إلى إجابة واحدة عن السؤال الذي سيصبح الأهم عند وقوع حادث: من فوّض الوكيل؟
التفويض المقيّد بالغرض والسلوك ليس الإجابة الكاملة. فالوكيل ذو الهوية الواضحة والغرض المحدود وقيود السلوك الصريحة والمالك المسمى قد يظل قادرًا على إنتاج إجابة خاطئة، وقد يتصرف شخص بناءً عليها. ولذلك تظل ضوابط المحتوى، والمراجعة البشرية للمخرجات ذات العواقب، والإشارات الواضحة إلى أن المخرجات جاءت من وكيل، عناصر ضرورية تقع فوق طبقة تفويض الوصول.
ومن دون هذه الطبقة لا يستقيم ما فوقها. قد يكون الوكيل الذي يعمل داخل شركتك الآن يفعل بالضبط ما ينبغي له فعله. لكن المطلوب أن تكون قادرًا على معرفة والإجابة بثقة: من فوّض الوكيل؟ وما الذي فُوّض بفعله؟ وكيف سُمح له بفعله؟ وأين تنتهي سلطته؟
