كيف نحدد مستوى استقلالية وكيل الذكاء الاصطناعي؟ إطار عملي من القراءة إلى التنفيذ المراقَب

لماذا لا يكفي سؤال: هل الوكيل مستقل أم لا؟

تبدأ المشكلة عادةً بمشهد تشغيلي بسيط: وكيل يقرأ عقود الموردين ويلخص المخاطر، ثم يكتب مسودة بريد للمراجعة. بعد أسبوعين يطلب الفريق أن يرسل البريد بنفسه، وبعد شهر يريد تحديث سجل المورد في نظام ERP. هنا يظهر سؤال الاستقلالية الحقيقي: لا يتعلق بالسؤال هل الوكيل ذكي بما يكفي، بل بما المسموح له أن يفعله، تحت أي شروط، ومن يستطيع إيقافه.

الاستقلالية ليست خاصية واحدة تُشغَّل أو تُطفأ. الوكيل قد يكون مستقلًا في البحث والتلخيص، ومقيدًا في الصياغة النهائية، وممنوعًا من الكتابة في الأنظمة. الخلط بين هذه الطبقات هو السبب الأكثر شيوعًا لحوادث صغيرة لكنها مكلفة: بريد أُرسل باسم الشركة دون مراجعة، أو حقل سعر تغيّر بسبب استنتاج خاطئ، أو صلاحية موروثة فتحت بيانات لم تكن في نطاق المهمة.

خمسة أبعاد تحدد مستوى الاستقلالية قبل منح أي صلاحية

قبل اختيار مستوى الاستقلالية، يجب وصف المهمة نفسها بدقة. وكيل يعمل على «المشتريات» ليس مثل وكيل يعمل على «مقارنة عروض المشتريات دون حفظ أي تغيير». الفرق ليس في جودة النموذج، بل في نطاق الصلاحية والبيانات التي يراها والأثر الذي يمكن أن يحدثه إذا أخطأ. لذلك نبدأ بخمسة أبعاد قابلة للتوثيق في سياسة واحدة لكل حالة استخدام.

هذه الأبعاد لا تُجمع كدرجات جمالية، بل تُستخدم كقيود دنيا: كل بُعد قد يخفض سقف الاستقلالية حتى لو كانت بقية الأبعاد منخفضة المخاطر. إذا كانت البيانات شديدة الحساسية، فلا يكفي أن المهمة قابلة للتراجع. وإذا كان الإجراء نهائيًا، فلا يكفي أن الوكيل دقيق في 95% من الحالات. القرار الصحيح هو الذي يستطيع مدير المخاطر شرحه لاحقًا، لا الذي يبدو مقنعًا في عرض تجريبي.

• نطاق المهمة: قراءة فقط أم استخراج أم صياغة أم تعديل سجل أم تنفيذ إجراء نهائي؟
• صلاحية الكتابة: لا كتابة، مسودة بشرية، إنشاء سجل جديد، تعديل محدود، أم حذف وإلغاء؟
• حساسية البيانات والموقع: عامة، داخلية، سرية، تنظيمية، وهل يجب أن تبقى داخل بيئة العميل؟
• قابلية التراجع وتكلفة الخطأ: خطأ في ملخص يُصحح بسهولة، وخطأ في أمر دفع أو إلغاء عقد قد لا يُصحح.
• المراقبة والتصعيد: موافقة مسبقة، مراجعة بالعينة، إنذار فوري، ومن يملك إيقاف الوكيل ومتى؟

مستويات عملية بدل ثنائية مستقل وغير مستقل

الأفضل أن تُدار الاستقلالية كسلم من المستويات، لا كحالة واحدة. المستوى ليس وعدًا بالذكاء، بل وصفًا لما يستطيع الوكيل فعله دون تدخل. كل مستوى له متطلبات إثبات مختلفة: سجل تدقيق، عينة مراجعة، حدود إنفاق، أو موافقة بشرية قبل التنفيذ.

في المؤسسات، غالبًا يكفي المستويان 1 و2 لتحقيق قيمة كبيرة. المستوى 3 مناسب لمهام متكررة منخفضة الأثر بعد فترة إثبات. أما المستويان 4 و5 فيحتاجان حوكمة ناضجة ومراقبة مستمرة، وقد لا يكونان ضروريين أصلًا. رفع المستوى ليس هدفًا بحد ذاته؛ الهدف هو تقليل العمل اليدوي دون نقل مخاطر غير مفهومة إلى الوكيل.

• المستوى 0 — قراءة فقط: يجيب ويستشهد بالمصادر دون كتابة أو إرسال. مناسب للبحث الداخلي وأسئلة السياسات.
• المستوى 1 — اقتراح ومسودة: يجهز إجابة أو بريدًا أو تحديثًا، لكن لا يُنفذ. مناسب للمراجعة القانونية والمالية الأولى.
• المستوى 2 — تنفيذ بموافقة: ينفذ خطوة واحدة بعد موافقة بشرية صريحة، مع سجل لما تغير ولماذا.
• المستوى 3 — استقلالية محدودة: ينفذ داخل حدود واضحة مثل مبلغ أقصى أو فئة موردين أو عدد سجلات، مع مراجعة بالعينة وتنبيهات.
• المستوى 4 — استقلالية مراقبة: يدير سلسلة خطوات في نطاق ضيق، لكن مع حدود إنفاق، سقف أثر، وإيقاف تلقائي عند الشذوذ.
• المستوى 5 — استقلالية واسعة: نادر ويحتاج مبررًا قويًا، وبيئة اختبار، وخطة تراجع، ومراجعة دورية للصلاحيات.

كيف تحوّل هذه الأبعاد إلى مصفوفة قرار وقواعد تفويض؟

الطريقة العملية هي كتابة «بطاقة استقلالية» لكل وكيل أو وحدة Matrix داخل مساحة العمل. البطاقة تحدد المهمة، والأنظمة المتصلة، ونوع الوصول، وأعلى مستوى مسموح، وشروط الترقية، وشروط الإيقاف. لا تُكتب البطاقة بلغة عامة مثل «وكيل مشتريات مساعد»، بل بجمل قابلة للاختبار: يقرأ طلبات الشراء حتى سقف معين، لا يعدل الأسعار، ويصدر مسودة أمر شراء فقط إذا كان المورد معتمدًا.

مثال تطبيقي: وكيل لمراجعة عقود الموردين. في الشهر الأول يكون في المستوى 1: يستخرج البنود ويلخص المخاطر ويقترح أسئلة، ولا يكتب في نظام إدارة العقود. بعد عينة مراجعة بشرية كافية، يمكن ترقيته إلى المستوى 2: إنشاء مهمة مراجعة أو تعليق داخلي بعد موافقة. لا يُرفع إلى المستوى 3 إلا إذا كانت هناك حدود واضحة للقيم والبنود، وسجل تدقيق كامل، وقدرة على التراجع عن أي تغيير.

• اكتب المهمة بفعل واضح: يقرأ، يستخرج، يصوغ، ينشئ، يعدل، يرسل، أم يلغي؟
• حدد أصغر صلاحية تكفي: ابدأ بقراءة الحقول المحددة لا بكامل النظام.
• اربط كل تنفيذ بشرط: مبلغ، فئة، حالة سجل، أو موافقة بشرية.
• سجّل المدخلات والمصادر والقرار والنتيجة، لا الرسالة النهائية فقط.
• ضع حدًا للتكرار والإنفاق وعدد المحاولات قبل التصعيد.
• حدد من يوقف الوكيل فورًا، وكيف تُسحب الصلاحية دون كسر العمل.

أخطاء شائعة ترفع الاستقلالية فعليًا فوق ما وثّقته السياسة

كثير من الحوادث لا تأتي من قرار صريح بمنح استقلالية أكبر، بل من تفاصيل تقنية تتراكم. وكيل مخصص للقراءة قد يحصل على أداة كتابة لأنه يحتاجها في اختبار لاحق، أو تبقى صلاحية قديمة مرتبطة بحساب خدمة بعد تغيير المهمة. النتيجة أن السياسة المكتوبة تقول مستوى 1، بينما السلوك الفعلي يقترب من مستوى 3.