كيف تمنح وكيل الذكاء الاصطناعي صلاحياته بأمان؟ نموذج عملي من 4 مستويات
لم تعد المشكلة في إنشاء وكيل ذكاء اصطناعي يستطيع تنفيذ المهام، بل في تحديد ما الذي يُسمح له بفعله، ومتى يجب أن يتوقف، ومن يملك حق الموافقة. فالوكيل الذي يقرأ بريدًا إلكترونيًا ليس كالوكيل الذي يرسله، والذي يقترح تعديلًا على ملف ليس كالذي يحذف الملف أو يستبدله.
لهذا فإن السؤال الصحيح ليس: «هل الوكيل ذكي بما يكفي؟»، بل: هل صُممت صلاحياته بحيث يبقى الخطأ محدودًا وقابلًا للاكتشاف والتراجع؟
في هذا الدليل ستتعرف إلى نموذج عملي من أربعة مستويات يمنح الوكيل ما يحتاجه فقط، ويربط كل زيادة في قدرته بضوابط وموافقات واختبارات مناسبة.
ما المقصود بصلاحيات وكيل الذكاء الاصطناعي؟
الصلاحية هي القدرة الفعلية التي تمنحها للوكيل داخل أداة أو نظام: قراءة ملف، البحث في قاعدة بيانات، إنشاء مسودة، إرسال رسالة، تعديل سجل، تنفيذ دفعة أو حذف محتوى. وهي تختلف عن التعليمات المكتوبة؛ لأن قولك للوكيل «لا تحذف الملفات» لا يعادل تقنيًا منعه من امتلاك أداة الحذف.
يمكن للوكيل أن يسيء فهم الطلب، أو يتأثر بمعلومة غير موثوقة، أو ينفذ خطوة صحيحة في سياق غير مناسب. لذلك يجب أن تكون الحماية مبنية على حدود تقنية وإجرائية، لا على حسن صياغة التعليمات وحده.
لماذا لا تصلح صلاحية واحدة لجميع المهام؟
قد يعمل الوكيل على المهمة نفسها عبر مراحل مختلفة المخاطر. ففي إدارة البريد مثلًا، يمكنه قراءة الرسائل وتصنيفها بأمان نسبي، ثم كتابة رد مقترح، لكن إرسال الرد إلى عميل أو جهة رسمية يحمل أثرًا أكبر. وفي المحاسبة يمكنه استخراج الأرقام واكتشاف الفروقات، لكن اعتماد دفعة مالية يجب أن يبقى خلف موافقة بشرية واضحة.
كلما أصبح الإجراء أصعب في التراجع، أو مسّ المال والخصوصية والسمعة وحقوق الأشخاص، وجب تقليل استقلال الوكيل وزيادة الرقابة البشرية.
النموذج العملي: أربعة مستويات لصلاحيات الوكيل الذكي
المستوى الأول: القراءة وجمع المعلومات
في هذا المستوى يستطيع الوكيل الوصول إلى مصادر محددة وقراءتها والبحث فيها، لكنه لا يستطيع تعديلها أو إرسال شيء إلى الخارج. وهذا هو المستوى الأنسب لبداية أي تجربة جديدة.
أمثلة:
- قراءة ملفات مشروع داخل مجلد مخصص.
- البحث في قاعدة معرفة أو سياسات داخلية.
- تلخيص رسائل البريد من دون الرد عليها.
- استخراج أرقام من تقرير دون تغيير المصدر.
الخطر الأساسي: كشف بيانات أكثر مما تحتاجه المهمة. لذلك لا يكفي أن تكون الصلاحية «قراءة فقط»؛ يجب أيضًا حصر الملفات والحسابات والفترة الزمنية التي يمكن للوكيل قراءتها.
الضابط المناسب: مصدر محدد، وصول للقراءة فقط، واستبعاد البيانات الحساسة غير الضرورية.
المستوى الثاني: التحليل وإعداد المسودات
هنا يحوّل الوكيل المعلومات إلى نتيجة قابلة للمراجعة، مثل تقرير أو اقتراح أو رد أو خطة، لكنه لا يطبقها على النظام النهائي. هذا المستوى يحقق قيمة كبيرة لأن الوكيل ينجز العمل المتكرر، بينما يحتفظ الإنسان بقرار الاعتماد.
أمثلة:
- كتابة مسودة بريد إلكتروني دون إرسالها.
- إعداد مسودة مقال دون نشرها.
- اقتراح تحديث لسجل عميل دون حفظ التغيير.
- ترتيب الطلبات حسب الأولوية مع توضيح سبب التصنيف.
الخطر الأساسي: أن يتعامل المستخدم مع المسودة كأنها نتيجة مؤكدة، أو يعتمدها بسرعة من دون فحص الأدلة.
الضابط المناسب: تمييز المخرجات بوضوح على أنها مسودة، وإظهار المصادر والافتراضات والنقاط التي تحتاج مراجعة.
المستوى الثالث: التنفيذ بعد موافقة بشرية
يجهز الوكيل الإجراء كاملًا، لكنه يتوقف قبل الخطوة المؤثرة ويعرض للمستخدم ما سيحدث. لا تكون الموافقة مجرد زر غامض؛ بل يجب أن يعرف الإنسان الهدف والجهة والبيانات التي ستتغير وإمكانية التراجع.
أمثلة:
- إعداد رسالة وتحديد المستلم ثم انتظار الموافقة قبل الإرسال.
- اقتراح تعديل في قاعدة البيانات مع عرض القيمة القديمة والجديدة.
- تجهيز طلب شراء دون اعتماده.
- رفع محتوى إلى منصة مع إبقاء النشر النهائي للإنسان.
الخطر الأساسي: «الموافقة الآلية»؛ أي أن يضغط الشخص على الموافقة بسبب كثرة التنبيهات أو لأن ملخص الإجراء غير واضح.
الضابط المناسب: شاشة موافقة مختصرة تعرض: ماذا سينفذ؟ أين؟ على من سيؤثر؟ ما البيانات المستخدمة؟ وهل يمكن التراجع؟
المستوى الرابع: التنفيذ التلقائي ضمن حدود محددة
هذا المستوى لا يعني استقلالًا مفتوحًا. يُسمح للوكيل بالتنفيذ من دون موافقة لكل حالة فقط عندما تكون المهمة منخفضة المخاطر، متكررة، قابلة للقياس والتراجع، ولها حدود واضحة توقفها عند ظهور استثناء.
أمثلة:
- نقل ملفات غير حساسة إلى مجلدات وفق قواعد ثابتة.
- إرسال تقرير داخلي دوري إلى قائمة معتمدة مسبقًا.
- تحديث حالة مهمة منخفضة المخاطر بعد تحقق شرط واضح.
- إنشاء نسخة احتياطية أو سجل متابعة دون حذف الأصل.
الخطر الأساسي: أن يتكرر خطأ صغير بسرعة أو يمتد إلى عدد كبير من الملفات أو العملاء قبل ملاحظته.
الضابط المناسب: سقف للتنفيذ، وقائمة وجهات مسموحة، وسجل نشاط، وتنبيه عند الحالات الشاذة، وزر إيقاف فوري.
مصفوفة القرار: كيف تختار المستوى الصحيح؟
| السؤال | إذا كانت الإجابة نعم | القرار الأنسب |
|---|---|---|
| هل يحتاج فقط إلى الاطلاع أو البحث؟ | لا توجد حاجة للتعديل | المستوى الأول |
| هل يمكن للإنسان مراجعة الناتج قبل استخدامه؟ | الناتج مسودة قابلة للفحص | المستوى الثاني |
| هل سيؤثر الإجراء في شخص أو مال أو سجل رسمي؟ | الأثر مهم أو حساس | المستوى الثالث |
| هل المهمة متكررة ومنخفضة المخاطر وقابلة للتراجع؟ | مع وجود حدود واختبارات | المستوى الرابع |
إذا اجتمعت في المهمة عدة خطوات، فلا تمنحها مستوى واحدًا. قسّمها مثلًا إلى: قراءة تلقائية، وتحليل تلقائي، ومسودة تلقائية، ثم موافقة بشرية قبل الإرسال. بهذه الطريقة تحصل على السرعة من دون تحويل كل سير العمل إلى مخاطرة واحدة كبيرة.
خمسة عوامل ترفع مستوى الخطر
قبل منح أي صلاحية، قيّم المهمة وفق العوامل التالية:
- حجم الأثر: هل يؤثر الخطأ في ملف واحد أم آلاف السجلات؟
- قابلية التراجع: هل يمكن استعادة الوضع السابق بسرعة؟
- حساسية البيانات: هل تشمل كلمات مرور أو بيانات مالية أو شخصية أو صحية؟
- الطرف المتأثر: هل يبقى الإجراء داخليًا أم يصل إلى عميل أو جمهور أو جهة رسمية؟
- وضوح القاعدة: هل توجد شروط قابلة للقياس، أم يحتاج القرار إلى حكم بشري وسياق؟
كلما ارتفع عاملان أو أكثر، انقل المهمة درجة إلى الخلف: من التنفيذ التلقائي إلى التنفيذ بالموافقة، أو من التنفيذ بالموافقة إلى المسودة فقط.
الصلاحية ليست وصولًا شاملًا
من الأخطاء الشائعة ربط الوكيل بحساب المستخدم الرئيسي ومنحه كل ما يستطيع المستخدم الوصول إليه. الأفضل أن تكون للوكيل هوية وصلاحيات مستقلة، لأن ذلك يجعل مراقبته وإيقافه ومراجعة نشاطه أسهل.
طبّق مبدأ «أقل صلاحية» عبر أربعة حدود:
- حدود البيانات: مجلد أو قاعدة أو حساب محدد.
- حدود الأدوات: قراءة أو إنشاء دون حذف، عند الإمكان.
- حدود الوجهات: مستلمون أو نطاقات معتمدة مسبقًا.
- حدود الكمية والوقت: عدد أقصى للعمليات وفترة تشغيل محددة.
مثال تطبيقي: وكيل لإدارة البريد الإلكتروني
بدل أن تقول للوكيل: «أدر بريدي»، حوّل المهمة إلى صلاحيات منفصلة:
- المستوى الأول: قراءة الرسائل الواردة من نطاقات محددة وتصنيفها.
- المستوى الثاني: تلخيص الرسالة وكتابة رد مقترح.
- المستوى الثالث: انتظار موافقتك قبل إرسال أي رد خارجي.
- المستوى الرابع: إرسال إشعار داخلي ثابت فقط عند تحقق شرط معروف، مثل وصول طلب يحمل رقمًا صحيحًا.
أما تحويل الأموال، أو مشاركة مرفق حساس، أو تغيير صلاحيات الحساب، فلا ينبغي إدخاله ضمن التنفيذ التلقائي لمجرد أن الوكيل نجح في تصنيف الرسائل.
اختبار الترقية قبل زيادة استقلال الوكيل
لا تنقل الوكيل إلى مستوى أعلى لأنه عمل جيدًا عدة مرات فقط. اختبره على حالات عادية واستثنائية، ثم اسأل:
- هل يشرح سبب قراره بطريقة يمكن مراجعتها؟
- هل يتوقف عندما تكون المعلومات ناقصة أو متعارضة؟
- هل يميز بين التعليمات الموثوقة والمحتوى الخارجي؟
- هل يحترم حدود العدد والوقت والوجهة؟
- هل يظهر الإجراء الحساس قبل تنفيذه؟
- هل يمكن معرفة ما فعله ومتى وبأي بيانات؟
- هل توجد طريقة سريعة لإيقافه والتراجع عن أثره؟
إذا فشل في سؤال واحد يتعلق بالمال أو الخصوصية أو الحذف أو النشر الخارجي، فلا ترفعه إلى التنفيذ التلقائي.
قالب جاهز لسياسة تفويض الوكيل
اسم المهمة: …………………………
الهدف المقبول: …………………………
المصادر المسموح بقراءتها: …………………………
الأدوات المسموح باستخدامها: …………………………
الإجراءات المحظورة: …………………………
الإجراء الذي يحتاج موافقة بشرية: …………………………
الحد الأقصى للعمليات: …………………………
الحالات التي يجب عندها التوقف: …………………………
المسؤول عن المراجعة: …………………………
طريقة التراجع أو الاستعادة: …………………………
هذا القالب لا يحتاج إلى تعقيد تقني. قيمته في تحويل عبارة عامة مثل «ساعدني في إدارة العمل» إلى حدود يمكن اختبارها ومحاسبة النظام عليها.
أخطاء شائعة عند منح الصلاحيات
- منح الحساب الشخصي كاملًا: يوسع مساحة الضرر ويصعب فصل نشاط الوكيل عن نشاط صاحبه.
- جمع القراءة والكتابة والحذف في أداة واحدة: يجعل المهمة البسيطة تحمل خطرًا غير ضروري.
- اعتبار الموافقة البشرية حلًا سحريًا: الموافقة غير المفهومة أو المتكررة قد تتحول إلى إجراء شكلي.
- عدم وضع سقف للعمليات: الخطأ المحدود قد يصبح واسعًا بسبب السرعة والتكرار.
- غياب سجل النشاط: من دون سجل لن تعرف سبب النتيجة أو نقطة بداية الخطأ.
- الانتقال السريع إلى الاستقلال الكامل: النجاح في الحالات المعتادة لا يثبت القدرة على التعامل مع الاستثناءات.
متى يجب أن يبقى الإنسان داخل الحلقة؟
يجب أن تبقى الموافقة البشرية حقيقية عندما يتضمن القرار دفعًا أو حذفًا أو نشرًا عامًا أو تغيير صلاحيات أو مشاركة بيانات حساسة أو أثرًا مباشرًا في حقوق الأشخاص. كذلك يحتاج الإنسان إلى التدخل عندما تكون القاعدة غير واضحة، أو عندما تتعارض المصادر، أو عندما تكون كلفة الخطأ أعلى من فائدة السرعة.
الهدف ليس تعطيل الوكيل، بل وضع الإنسان عند نقطة القرار المؤثرة بدل إجباره على مراجعة كل خطوة صغيرة.
أسئلة شائعة
هل القراءة فقط آمنة تمامًا؟
لا. تقلل القراءة فقط خطر التعديل والحذف، لكنها لا تمنع تسرب البيانات أو الوصول إلى ملفات لا تحتاجها المهمة. لذلك يجب تقييد نطاق القراءة أيضًا.
هل يمكن منح الوكيل صلاحية النشر التلقائي؟
يمكن ذلك للمحتوى منخفض المخاطر وضمن قالب وقواعد واضحة، لكن المحتوى الذي يمس السمعة أو يقدم التزامًا أو معلومة حساسة يجب أن يمر بمراجعة بشرية قبل النشر.
ما الفرق بين المستوى الثالث والرابع؟
في المستوى الثالث ينتظر الوكيل موافقة بشرية قبل كل إجراء مؤثر. في المستوى الرابع ينفذ تلقائيًا داخل حدود معتمدة مسبقًا، ويتوقف عند تجاوزها أو ظهور حالة استثنائية.
متى أزيد صلاحيات الوكيل؟
بعد اختبار متكرر يشمل الحالات الاستثنائية، ووجود سجل نشاط وحدود كمية وطريقة إيقاف وتراجع. زيادة الصلاحية قرار تصميم، وليست مكافأة للوكيل.
اقرأ أيضًا على أفق رقمي
- ما هو وكيل الذكاء الاصطناعي AI Agent؟ وكيف تستخدمه في عملك دون برمجة؟
- وكيل ذكاء اصطناعي أم أتمتة تقليدية؟ اختبار عملي يحدد ما تحتاجه
- قبل إنشاء وكيل ذكاء اصطناعي: 7 مهام لا تمنحه صلاحية تنفيذها وحده
- استخدام الذكاء الاصطناعي في العمل بأمان: دليل حماية البيانات
مصادر رسمية للتوسع
- OpenAI: دليل عملي لبناء وكلاء الذكاء الاصطناعي
- Anthropic: الوكلاء الجديرون بالثقة في الممارسة
- Google Cloud: اختيار نمط تصميم أنظمة الذكاء الاصطناعي الوكيلة
الخلاصة
الوكيل الآمن ليس الوكيل الذي لا يخطئ، بل الوكيل الذي صُممت صلاحياته بحيث لا يتحول خطؤه إلى ضرر كبير. ابدأ بالقراءة، ثم المسودات، ثم التنفيذ بالموافقة، ولا تنتقل إلى التنفيذ التلقائي إلا لمهام محددة ومنخفضة المخاطر وقابلة للتراجع.
إذا لم تستطع وصف حدود المهمة ومتى يجب أن يتوقف الوكيل، فأنت لم تصبح جاهزًا بعد لمنحه صلاحية تنفيذها. ابدأ بالحدود أولًا، ثم أضف القدرة تدريجيًا.
لهذا فإن السؤال الصحيح ليس: «هل الوكيل ذكي بما يكفي؟»، بل: هل صُممت صلاحياته بحيث يبقى الخطأ محدودًا وقابلًا للاكتشاف والتراجع؟
في هذا الدليل ستتعرف إلى نموذج عملي من أربعة مستويات يمنح الوكيل ما يحتاجه فقط، ويربط كل زيادة في قدرته بضوابط وموافقات واختبارات مناسبة.
ما المقصود بصلاحيات وكيل الذكاء الاصطناعي؟
الصلاحية هي القدرة الفعلية التي تمنحها للوكيل داخل أداة أو نظام: قراءة ملف، البحث في قاعدة بيانات، إنشاء مسودة، إرسال رسالة، تعديل سجل، تنفيذ دفعة أو حذف محتوى. وهي تختلف عن التعليمات المكتوبة؛ لأن قولك للوكيل «لا تحذف الملفات» لا يعادل تقنيًا منعه من امتلاك أداة الحذف.
يمكن للوكيل أن يسيء فهم الطلب، أو يتأثر بمعلومة غير موثوقة، أو ينفذ خطوة صحيحة في سياق غير مناسب. لذلك يجب أن تكون الحماية مبنية على حدود تقنية وإجرائية، لا على حسن صياغة التعليمات وحده.
لماذا لا تصلح صلاحية واحدة لجميع المهام؟
قد يعمل الوكيل على المهمة نفسها عبر مراحل مختلفة المخاطر. ففي إدارة البريد مثلًا، يمكنه قراءة الرسائل وتصنيفها بأمان نسبي، ثم كتابة رد مقترح، لكن إرسال الرد إلى عميل أو جهة رسمية يحمل أثرًا أكبر. وفي المحاسبة يمكنه استخراج الأرقام واكتشاف الفروقات، لكن اعتماد دفعة مالية يجب أن يبقى خلف موافقة بشرية واضحة.
كلما أصبح الإجراء أصعب في التراجع، أو مسّ المال والخصوصية والسمعة وحقوق الأشخاص، وجب تقليل استقلال الوكيل وزيادة الرقابة البشرية.
النموذج العملي: أربعة مستويات لصلاحيات الوكيل الذكي
المستوى الأول: القراءة وجمع المعلومات
في هذا المستوى يستطيع الوكيل الوصول إلى مصادر محددة وقراءتها والبحث فيها، لكنه لا يستطيع تعديلها أو إرسال شيء إلى الخارج. وهذا هو المستوى الأنسب لبداية أي تجربة جديدة.
أمثلة:
- قراءة ملفات مشروع داخل مجلد مخصص.
- البحث في قاعدة معرفة أو سياسات داخلية.
- تلخيص رسائل البريد من دون الرد عليها.
- استخراج أرقام من تقرير دون تغيير المصدر.
الخطر الأساسي: كشف بيانات أكثر مما تحتاجه المهمة. لذلك لا يكفي أن تكون الصلاحية «قراءة فقط»؛ يجب أيضًا حصر الملفات والحسابات والفترة الزمنية التي يمكن للوكيل قراءتها.
الضابط المناسب: مصدر محدد، وصول للقراءة فقط، واستبعاد البيانات الحساسة غير الضرورية.
المستوى الثاني: التحليل وإعداد المسودات
هنا يحوّل الوكيل المعلومات إلى نتيجة قابلة للمراجعة، مثل تقرير أو اقتراح أو رد أو خطة، لكنه لا يطبقها على النظام النهائي. هذا المستوى يحقق قيمة كبيرة لأن الوكيل ينجز العمل المتكرر، بينما يحتفظ الإنسان بقرار الاعتماد.
أمثلة:
- كتابة مسودة بريد إلكتروني دون إرسالها.
- إعداد مسودة مقال دون نشرها.
- اقتراح تحديث لسجل عميل دون حفظ التغيير.
- ترتيب الطلبات حسب الأولوية مع توضيح سبب التصنيف.
الخطر الأساسي: أن يتعامل المستخدم مع المسودة كأنها نتيجة مؤكدة، أو يعتمدها بسرعة من دون فحص الأدلة.
الضابط المناسب: تمييز المخرجات بوضوح على أنها مسودة، وإظهار المصادر والافتراضات والنقاط التي تحتاج مراجعة.
المستوى الثالث: التنفيذ بعد موافقة بشرية
يجهز الوكيل الإجراء كاملًا، لكنه يتوقف قبل الخطوة المؤثرة ويعرض للمستخدم ما سيحدث. لا تكون الموافقة مجرد زر غامض؛ بل يجب أن يعرف الإنسان الهدف والجهة والبيانات التي ستتغير وإمكانية التراجع.
أمثلة:
- إعداد رسالة وتحديد المستلم ثم انتظار الموافقة قبل الإرسال.
- اقتراح تعديل في قاعدة البيانات مع عرض القيمة القديمة والجديدة.
- تجهيز طلب شراء دون اعتماده.
- رفع محتوى إلى منصة مع إبقاء النشر النهائي للإنسان.
الخطر الأساسي: «الموافقة الآلية»؛ أي أن يضغط الشخص على الموافقة بسبب كثرة التنبيهات أو لأن ملخص الإجراء غير واضح.
الضابط المناسب: شاشة موافقة مختصرة تعرض: ماذا سينفذ؟ أين؟ على من سيؤثر؟ ما البيانات المستخدمة؟ وهل يمكن التراجع؟
المستوى الرابع: التنفيذ التلقائي ضمن حدود محددة
هذا المستوى لا يعني استقلالًا مفتوحًا. يُسمح للوكيل بالتنفيذ من دون موافقة لكل حالة فقط عندما تكون المهمة منخفضة المخاطر، متكررة، قابلة للقياس والتراجع، ولها حدود واضحة توقفها عند ظهور استثناء.
أمثلة:
- نقل ملفات غير حساسة إلى مجلدات وفق قواعد ثابتة.
- إرسال تقرير داخلي دوري إلى قائمة معتمدة مسبقًا.
- تحديث حالة مهمة منخفضة المخاطر بعد تحقق شرط واضح.
- إنشاء نسخة احتياطية أو سجل متابعة دون حذف الأصل.
الخطر الأساسي: أن يتكرر خطأ صغير بسرعة أو يمتد إلى عدد كبير من الملفات أو العملاء قبل ملاحظته.
الضابط المناسب: سقف للتنفيذ، وقائمة وجهات مسموحة، وسجل نشاط، وتنبيه عند الحالات الشاذة، وزر إيقاف فوري.
مصفوفة القرار: كيف تختار المستوى الصحيح؟
| السؤال | إذا كانت الإجابة نعم | القرار الأنسب |
|---|---|---|
| هل يحتاج فقط إلى الاطلاع أو البحث؟ | لا توجد حاجة للتعديل | المستوى الأول |
| هل يمكن للإنسان مراجعة الناتج قبل استخدامه؟ | الناتج مسودة قابلة للفحص | المستوى الثاني |
| هل سيؤثر الإجراء في شخص أو مال أو سجل رسمي؟ | الأثر مهم أو حساس | المستوى الثالث |
| هل المهمة متكررة ومنخفضة المخاطر وقابلة للتراجع؟ | مع وجود حدود واختبارات | المستوى الرابع |
إذا اجتمعت في المهمة عدة خطوات، فلا تمنحها مستوى واحدًا. قسّمها مثلًا إلى: قراءة تلقائية، وتحليل تلقائي، ومسودة تلقائية، ثم موافقة بشرية قبل الإرسال. بهذه الطريقة تحصل على السرعة من دون تحويل كل سير العمل إلى مخاطرة واحدة كبيرة.
خمسة عوامل ترفع مستوى الخطر
قبل منح أي صلاحية، قيّم المهمة وفق العوامل التالية:
- حجم الأثر: هل يؤثر الخطأ في ملف واحد أم آلاف السجلات؟
- قابلية التراجع: هل يمكن استعادة الوضع السابق بسرعة؟
- حساسية البيانات: هل تشمل كلمات مرور أو بيانات مالية أو شخصية أو صحية؟
- الطرف المتأثر: هل يبقى الإجراء داخليًا أم يصل إلى عميل أو جمهور أو جهة رسمية؟
- وضوح القاعدة: هل توجد شروط قابلة للقياس، أم يحتاج القرار إلى حكم بشري وسياق؟
كلما ارتفع عاملان أو أكثر، انقل المهمة درجة إلى الخلف: من التنفيذ التلقائي إلى التنفيذ بالموافقة، أو من التنفيذ بالموافقة إلى المسودة فقط.
الصلاحية ليست وصولًا شاملًا
من الأخطاء الشائعة ربط الوكيل بحساب المستخدم الرئيسي ومنحه كل ما يستطيع المستخدم الوصول إليه. الأفضل أن تكون للوكيل هوية وصلاحيات مستقلة، لأن ذلك يجعل مراقبته وإيقافه ومراجعة نشاطه أسهل.
طبّق مبدأ «أقل صلاحية» عبر أربعة حدود:
- حدود البيانات: مجلد أو قاعدة أو حساب محدد.
- حدود الأدوات: قراءة أو إنشاء دون حذف، عند الإمكان.
- حدود الوجهات: مستلمون أو نطاقات معتمدة مسبقًا.
- حدود الكمية والوقت: عدد أقصى للعمليات وفترة تشغيل محددة.
مثال تطبيقي: وكيل لإدارة البريد الإلكتروني
بدل أن تقول للوكيل: «أدر بريدي»، حوّل المهمة إلى صلاحيات منفصلة:
- المستوى الأول: قراءة الرسائل الواردة من نطاقات محددة وتصنيفها.
- المستوى الثاني: تلخيص الرسالة وكتابة رد مقترح.
- المستوى الثالث: انتظار موافقتك قبل إرسال أي رد خارجي.
- المستوى الرابع: إرسال إشعار داخلي ثابت فقط عند تحقق شرط معروف، مثل وصول طلب يحمل رقمًا صحيحًا.
أما تحويل الأموال، أو مشاركة مرفق حساس، أو تغيير صلاحيات الحساب، فلا ينبغي إدخاله ضمن التنفيذ التلقائي لمجرد أن الوكيل نجح في تصنيف الرسائل.
اختبار الترقية قبل زيادة استقلال الوكيل
لا تنقل الوكيل إلى مستوى أعلى لأنه عمل جيدًا عدة مرات فقط. اختبره على حالات عادية واستثنائية، ثم اسأل:
- هل يشرح سبب قراره بطريقة يمكن مراجعتها؟
- هل يتوقف عندما تكون المعلومات ناقصة أو متعارضة؟
- هل يميز بين التعليمات الموثوقة والمحتوى الخارجي؟
- هل يحترم حدود العدد والوقت والوجهة؟
- هل يظهر الإجراء الحساس قبل تنفيذه؟
- هل يمكن معرفة ما فعله ومتى وبأي بيانات؟
- هل توجد طريقة سريعة لإيقافه والتراجع عن أثره؟
إذا فشل في سؤال واحد يتعلق بالمال أو الخصوصية أو الحذف أو النشر الخارجي، فلا ترفعه إلى التنفيذ التلقائي.
قالب جاهز لسياسة تفويض الوكيل
اسم المهمة: …………………………
الهدف المقبول: …………………………
المصادر المسموح بقراءتها: …………………………
الأدوات المسموح باستخدامها: …………………………
الإجراءات المحظورة: …………………………
الإجراء الذي يحتاج موافقة بشرية: …………………………
الحد الأقصى للعمليات: …………………………
الحالات التي يجب عندها التوقف: …………………………
المسؤول عن المراجعة: …………………………
طريقة التراجع أو الاستعادة: …………………………
هذا القالب لا يحتاج إلى تعقيد تقني. قيمته في تحويل عبارة عامة مثل «ساعدني في إدارة العمل» إلى حدود يمكن اختبارها ومحاسبة النظام عليها.
أخطاء شائعة عند منح الصلاحيات
- منح الحساب الشخصي كاملًا: يوسع مساحة الضرر ويصعب فصل نشاط الوكيل عن نشاط صاحبه.
- جمع القراءة والكتابة والحذف في أداة واحدة: يجعل المهمة البسيطة تحمل خطرًا غير ضروري.
- اعتبار الموافقة البشرية حلًا سحريًا: الموافقة غير المفهومة أو المتكررة قد تتحول إلى إجراء شكلي.
- عدم وضع سقف للعمليات: الخطأ المحدود قد يصبح واسعًا بسبب السرعة والتكرار.
- غياب سجل النشاط: من دون سجل لن تعرف سبب النتيجة أو نقطة بداية الخطأ.
- الانتقال السريع إلى الاستقلال الكامل: النجاح في الحالات المعتادة لا يثبت القدرة على التعامل مع الاستثناءات.
متى يجب أن يبقى الإنسان داخل الحلقة؟
يجب أن تبقى الموافقة البشرية حقيقية عندما يتضمن القرار دفعًا أو حذفًا أو نشرًا عامًا أو تغيير صلاحيات أو مشاركة بيانات حساسة أو أثرًا مباشرًا في حقوق الأشخاص. كذلك يحتاج الإنسان إلى التدخل عندما تكون القاعدة غير واضحة، أو عندما تتعارض المصادر، أو عندما تكون كلفة الخطأ أعلى من فائدة السرعة.
الهدف ليس تعطيل الوكيل، بل وضع الإنسان عند نقطة القرار المؤثرة بدل إجباره على مراجعة كل خطوة صغيرة.
أسئلة شائعة
هل القراءة فقط آمنة تمامًا؟
لا. تقلل القراءة فقط خطر التعديل والحذف، لكنها لا تمنع تسرب البيانات أو الوصول إلى ملفات لا تحتاجها المهمة. لذلك يجب تقييد نطاق القراءة أيضًا.
هل يمكن منح الوكيل صلاحية النشر التلقائي؟
يمكن ذلك للمحتوى منخفض المخاطر وضمن قالب وقواعد واضحة، لكن المحتوى الذي يمس السمعة أو يقدم التزامًا أو معلومة حساسة يجب أن يمر بمراجعة بشرية قبل النشر.
ما الفرق بين المستوى الثالث والرابع؟
في المستوى الثالث ينتظر الوكيل موافقة بشرية قبل كل إجراء مؤثر. في المستوى الرابع ينفذ تلقائيًا داخل حدود معتمدة مسبقًا، ويتوقف عند تجاوزها أو ظهور حالة استثنائية.
متى أزيد صلاحيات الوكيل؟
بعد اختبار متكرر يشمل الحالات الاستثنائية، ووجود سجل نشاط وحدود كمية وطريقة إيقاف وتراجع. زيادة الصلاحية قرار تصميم، وليست مكافأة للوكيل.
اقرأ أيضًا على أفق رقمي
- ما هو وكيل الذكاء الاصطناعي AI Agent؟ وكيف تستخدمه في عملك دون برمجة؟
- وكيل ذكاء اصطناعي أم أتمتة تقليدية؟ اختبار عملي يحدد ما تحتاجه
- قبل إنشاء وكيل ذكاء اصطناعي: 7 مهام لا تمنحه صلاحية تنفيذها وحده
- استخدام الذكاء الاصطناعي في العمل بأمان: دليل حماية البيانات
مصادر رسمية للتوسع
- OpenAI: دليل عملي لبناء وكلاء الذكاء الاصطناعي
- Anthropic: الوكلاء الجديرون بالثقة في الممارسة
- Google Cloud: اختيار نمط تصميم أنظمة الذكاء الاصطناعي الوكيلة
الخلاصة
الوكيل الآمن ليس الوكيل الذي لا يخطئ، بل الوكيل الذي صُممت صلاحياته بحيث لا يتحول خطؤه إلى ضرر كبير. ابدأ بالقراءة، ثم المسودات، ثم التنفيذ بالموافقة، ولا تنتقل إلى التنفيذ التلقائي إلا لمهام محددة ومنخفضة المخاطر وقابلة للتراجع.
إذا لم تستطع وصف حدود المهمة ومتى يجب أن يتوقف الوكيل، فأنت لم تصبح جاهزًا بعد لمنحه صلاحية تنفيذها. ابدأ بالحدود أولًا، ثم أضف القدرة تدريجيًا.
تعليقات
إرسال تعليق