ما المهام التي لا ينبغي إسنادها إلى وكلاء الذكاء الاصطناعي؟ دليل عملي بحدود الصلاحية

لماذا هذا السؤال أهم من قدرات الوكيل؟

يبدأ الخطأ عادةً بقرار تقني صغير: منح وكيل محادثة صلاحية الوصول إلى صندوق البريد وصلاحية إنشاء طلب استرداد. في الأسبوع الأول يعمل كل شيء بسلاسة، ثم يقرأ الوكيل بندًا في سياسة الاسترجاع على أنه يشمل المنتجات المخفّضة، فيُنشئ دفعة تلو الأخرى قبل أن يلاحظ أحد. المشكلة هنا ليست في ذكاء النموذج، بل في نوع المهمة: مهمة ينتج عنها أثر خارجي لا يمكن التراجع عنه بسهولة.

لهذا فإن السؤال العملي ليس «ما الذي يستطيع الوكيل فعله؟» بل «ما الذي لا يجب أن يحدث دون إنسان؟». المهام التي يُخطئ فيها الوكيل ويُصحَّح خطؤه فورًا — تلخيص مستند، اقتراح صياغة بريد، البحث عن بند في عقد — تكلفة خطئها منخفضة وقابلة للاكتشاف. أما المهام التي تكتب في نظام السجل أو تُخرج شيئًا إلى الخارج، فتكلفة خطئها مركّزة، وقد تكون قانونية، وقد تظهر بعد أسابيع.

المفارقة أن الوكلاء يبدون أكثر إقناعًا في المهام التي لا ينبغي تفويضها بالكامل، لأنها مهام لغوية في جوهرها: كتابة رد، صياغة قرار، تلخيص ملف. اللغة السليمة ليست دليلًا على صحة الحكم، والثقة في النبرة ليست بديلًا عن المسؤولية. لذلك نقترح تقسيم المهام وفقًا لثلاثة معايير: قابلية التراجع، وقابلية الاكتشاف المبكر، ووجود جهة محددة يمكن محاسبتها.

القرارات المالية والالتزامات التعاقدية: حيث لا يُلغى الخطأ بضغطة

المدفوعات، والاسترداد، وتسعير العروض، والالتزام ببنود تعاقدية، والإقرارات الضريبية — كلها مهام يلتقي فيها المال مع المسؤولية القانونية. يستطيع الوكيل أن يستخرج بندًا من عقد، ويقارنه بالسياسة الداخلية، ويجهّز جدول فروق، ويُنبّه إلى تعارض أو غموض. لكن اعتماد الاستثناء، أو الموافقة على سعر خاص لعميل استراتيجي، أو الإفراج عن دفعة، يحتاج توقيعًا بشريًا واضحًا لأن السؤال الذي سيُطرح لاحقًا هو: من وافق؟

التجربة الشائعة أن الأتمتة الكاملة في هذه المهام تنجح في المسار الطبيعي وتفشل في الحالات الاستثنائية — وهي بالضبط الحالات التي وُجد الموظف من أجلها. لذا يكون التصميم الأفضل هجينًا: الوكيل يجهّز ويقارن ويشرح، والإنسان يعتمد. وهذا لا يلغي الفائدة؛ فمعظم الوقت يُستهلك في جمع الأدلة لا في اتخاذ القرار، والوكيل الجيد يختصر المرحلة الأولى ويترك الثانية لمن يتحمل تبعاتها.

الحد الأدنى المقبول في هذه الفئة هو سجل قابل للتدقيق: ما الذي قرأه الوكيل، وما الاقتباس الذي استند إليه، وما البديل الذي اقترحه، ومن اعتمده. بدون هذا السجل تتحول الأتمتة إلى صندوق أسود، ويصبح التحقق بعد الخطأ أصعب من تنفيذ المهمة يدويًا من البداية.

• الوكيل — مناسب لاستخراج بنود العقد ومقارنتها بالسياسة الداخلية وتجهيز جدول الفروق.
• الموظف — مناسب لتوقيع الاستثناء وتحديد سعر خاص لعميل استراتيجي.
• الوكيل — مناسب لتجهيز مسودة رد على مطالبة مالية مع اقتباس الأدلة.
• الموظف — مناسب لاعتماد التحويل أو الإفراج عن دفعة أو تعديل إقرار ضريبي.

البيانات الشخصية والصلاحيات الحساسة: حدود الوصول أهم من حدود الذكاء

الملفات الشخصية للموظفين، والتقارير الطبية، ووثائق هوية العملاء، وبيانات الرواتب — كلها بيانات يسهل على الوكيل قراءتها إذا مُنح صلاحية واسعة، ويصعب تقييد انتشارها بعد ذلك. الخطر لا يأتي فقط من خطأ في الإجابة، بل من تجميع سياق لم يكن مصرحًا بجمعه أصلًا: سؤال بريء عن إجازة موظف قد يعيد للوكيل مزيجًا من ملفه الطبي وتقييم أدائه إن كانت طبقة الاستدعاء لا تعرف حدود المستخدم.

القاعدة العملية أن ترث صلاحيات الوكيل صلاحيات المستخدم الذي يكلّفه بالمهمة، لا صلاحيات حساب خدمة واسع يقرأ كل شيء. ويُضاف إلى ذلك بُعد الموقع الجغرافي: في قطاعات مثل الصحة والخدمات المالية والقانون، قد يكون شرط إبقاء الاستدعاء والنماذج داخل الشبكة الداخلية غير قابل للتفاوض. هنا يبدو الفرق بين منصة سحابية عامة ومنصة داخلية واضحًا في المراجعة الأمنية، لا في العرض التجريبي.

لا تنسَ أن أي مستند يُدخل إلى سياق الوكيل يمكن أن يحمل تعليمات مضللة موجهة إليه. لذلك يجب أن تُعامل مخرجات المستندات كبيانات لا كأوامر، وأن يُرفض أي إجراء تنفيذي مصدره نص داخل ملف. أما المهام التي يجب ألا تُفوَّض كاملة فهي: منح صلاحية وصول لمستخدم، وحذف سجلات، والتصدير الجماعي لبيانات شخصية، والرد على طلب وصول إلى البيانات دون مراجعة بشرية.