ما هو وكيل الذكاء الاصطناعي فعلاً، وما ليس كذلك

الحلقة هي الفكرة كلها

إذا نزعنا المصطلحات، فالوكيل برنامج فيه نموذج داخل حلقة تكرار. يتلقّى النموذج هدفاً وحالةً راهنة، فيُخرج إما جواباً نهائياً وإما طلب استخدام أداة: اقرأ هذا الملف، نفّذ هذا الاستعلام، أرسل طلباً إلى هذه الواجهة، شغّل هذا الاختبار. التنفيذ الفعلي يجري خارج النموذج — النموذج لا يلمس شيئاً بنفسه — ثم تعود النتيجة إليه مدخلاً جديداً. فيقرّر مرة أخرى. ويتوقف حين يرى الهدف متحققاً، أو حين يصطدم بحدّ موضوع سلفاً.

كل ما يُسمّى سلوكاً وكيلياً يتفرّع من هذا التركيب. التخطيط أن يكتب النموذج تسلسلاً مقصوداً قبل أن يستهلك خطوات حقيقية عليه. واستخدام الأدوات هو المنفذ الوحيد من نظام لا يُنتج غير الكلام. والتنفيذ هو أن تقوم البنية المحيطة بما طلبه. أما التحقق فهو تشغيل شيء قادر على تكذيبه: مجموعة اختبارات، مدقق أنواع، إعادة قراءة السجل من قاعدة البيانات للتأكد، أو نموذج ثانٍ معه المتطلبات الأصلية ولا علاقة له بالعمل المنجز.

الخاصية الحاسمة ليست ذكاء النموذج، بل أن الحلقة مغلقة. نموذج يُطلب منه كتابة سكربت دفعة واحدة لا يعرف إن كان السكربت يعمل أصلاً. النموذج نفسه داخل حلقة يشغّله، ويقرأ رسالة الخطأ، ويعدّل السطر الذي تسبّب بالخطأ. هذه قدرة من نوع آخر، مصدرها أن البيئة تُرجع إلى النموذج ما جرى فعلاً، لا أن الأوزان تحسّنت.

لماذا فقدت الكلمة معناها

تُستعمل الصفة على نحو فضفاض لأن الوصف يروّج للمنتج، ولأن أحداً لا يملك تعريفه — لا جهة معايير ولا غيرها. روبوت محادثة أُوعز إليه في تعليماته أن يكون مبادراً ليس وكيلاً. واستدعاء واحد يُرجع JSON منظّماً ثم يتصرّف كودك بناءً عليه ليس وكيلاً، بل برنامجك والنموذج فيه إجراء فرعي. وخط أنابيب ثابت تُغذّي فيه الخطوة الأولى الثانيةَ دائماً هو مسار عمل ثابت — نافع، وغالباً هو التصميم الصحيح — لكن ترتيبه قرّره مطوّر لا النظام أثناء التشغيل.

والمعيار الذي يهمّ هو: هل يمكن لعدد الخطوات الباقية وترتيبها أن يتغيّرا أثناء التشغيل؟ إن كان الجواب لا، فالوكيل لا يضيف لك شيئاً ويحرمك من قابلية التنبّؤ. وإن استطاع النموذج بعد رؤية خطأ أن يقرّر إضافة ثلاث خطوات لم تكن في الحسبان، فهذا وكيل. والفرق عملي لا لفظي: مسارات العمل الثابتة أرخص وأسرع وأسهل اختباراً وتفشل فشلاً متوقعاً. والوكلاء يستحقون ثمنهم حين يستحيل حصر المسار مسبقاً، لا قبل ذلك.

كيف يفشل الوكلاء فعلياً

الفشل الغالب هو تراكم الخطأ على المدى الطويل. خطوات مستقلة ينجح كل منها باحتمال p تنجح مجتمعة باحتمال p مرفوعاً إلى n. حتى مع 95% للخطوة الواحدة، تهبط عشرون خطوة إلى نحو الثلث. الحساب تقريبي فجّ — فالخطوات ليست مستقلة ولا متساوية الخطورة — لكن اتجاهه صحيح، وهو يفسّر ما يرويه الجميع: أداء ممتاز في مهمة من خمس خطوات، وتذبذب في مهمة من خمسين. وإطالة المدى تحتاج موثوقية أعلى في الخطوة الواحدة، أو نقاط تحقّق تقطع انتقال الخطأ.

وأسوأ من خطوة تفشل خطوةٌ تفشل بصمت. وكيل يكتب في مسار خاطئ، أو يبحث في المجلد الخطأ فيقرأ خلوّ النتيجة على أنه «لا مشاكل»، أو ينفّذ أمراً لم تعرض عليه البنية المحيطة ما كتبه في مخرَج الأخطاء، أو يستقبل استجابة برمز 200 بينما جسمها يحمل رسالة خطأ — يحمل هذا الاعتقاد الزائف معه ويبني عليه. وكل ما يليه خطأ بثقة. ومع طول التشغيل تظهر مشكلة إدارة السياق: تُلخَّص القرارات القديمة أو تُزاح، فيعيد الوكيل عملاً أنجزه، أو يناقض قيداً وافق عليه قبل عشرين خطوة.

ثم تفاؤل النموذج بنفسه. إذا سألته: هل أنهيت؟ فسيقول نعم في الغالب. التقييم الذاتي بلا دليل خارجي شبه عديم القيمة — فهو النظام نفسه يصحّح ورقته، بلا نظرة مستقلة إليها. من هنا يعلن الوكيل أنه أصلح العلّة وأن الاختبارات نجحت، وهو لم يشغّلها أصلاً. وأضف الحالة العدائية: وكيل يقرأ صفحات ويب أو تذاكر أو بريداً يقرأ نصاً قد يحوي تعليمات موجّهة إليه. ما يأتي من العالم بيانات لا أوامر، والنظام العاجز عن حفظ هذا الفرق نظامٌ يستطيع المهاجم توجيه سلوكه.

لماذا التحقق أهم من الخطة

الرهان الذي يستحق أن يُعقد هو أن عائد التحقق أكبر من عائد التخطيط، والسبب بنيوي: الخطة تنبّؤ بعالم لم يره الوكيل بعد، وتبطل لحظة يعود أول استدعاء بشيء غير متوقع. أما التحقق فيشتغل على ما حدث فعلاً، وهو ما يجعل الوكيل ينتبه إلى انحرافه عند الخطوة الرابعة لا الأربعين. وهذا موقف لا نتيجة محسومة — فتفكيك المهمة وبنى «خطّط ثم نفّذ» تفيد في مهام دون أخرى — لكنه الموضع الذي تتركّز فيه الفائدة الهندسية.

وهذا يفسّر تفاوت حظوظ الوكلاء بين الميادين اليوم. البرمجة أنجح الميادين لا لأن الكود سهل، بل لأنه قابل للفحص: المترجم يجيب عن سؤال ضيّق واحد بصدق، آلاف المرات، بكلفة تكاد لا تُذكر. وهو لا يخبرك أن الكود صحيح، بل أنه سليم التركيب ومتّسق الأنواع فحسب، وكود يُترجَم بنجاح وهو خاطئ هو الحالة المعتادة. ومع ذلك يبقى هذا القدر من التغذية الراجعة أكثر مما تمنحه أغلب الميادين. والاختبارات وأنظمة الأنواع وأدوات الفحص والسكربتات التي يمكن تكرارها بأمان تمنح الحلقة شيئاً صادقاً تتفاعل معه. ويشاركها هذه الصفة عملُ البيانات حيث يجب أن تتوازن المطابقات، ومهام المتصفح التي تنتهي بتغيّر حالة يمكن رؤيته.

أما الميادين التي يخيب فيها الوكلاء فتشترك في العكس. اكتب لي استراتيجية، ابحث في هذا السوق، حرّر مذكرة سياسات — لا مرجع حقيقة هنا. والعطب ليس انهياراً، بل مخرَجاً معقولاً لا يستطيع أحد تأكيده بثمن رخيص، وهو أغلى أنواع الخطأ. قبل إطلاق وكيل على أي مهمة اسأل: ما الذي سيخبرني أنه فشل، وكم تكلفة هذا الفحص؟ إن كان الجواب أن على إنسان قراءة كل شيء بتمعّن، فأنت لم تُؤتمت العمل، بل نقلته من التنفيذ إلى المراجعة، وقد تكون المراجعة النصف الأغلى.

ما الذي يبقى بيد الإنسان

ثلاثة ضوابط لا يجوز التنازل عنها. أولها الموافقة قبل أي فعل لا رجعة فيه. القراءة والمسوّدات والتشغيل في بيئة معزولة تمضي بحرية، أما إرسال بريد أو حذف بيانات أو تحويل مال أو نشر إصدار أو الكتابة في الإنتاج فيقف ويسأل. والمقصود هو الفارق نفسه بين الكفّتين: قراءة مهدورة تكلّف أجزاءً من السنت، ورسالة أُرسلت خطأً لا يمكن سحبها. وثانيها خطة مرئية وأثر مرئي: أي أداة استُدعيت، وبأي وسائط، وبماذا عادت. تشغيل لا تستطيع تفتيشه تشغيل لا تستطيع تصحيحه، والخلاصة التي يكتبها الوكيل عن عمله ليست بديلاً عن السجل. وثالثها قدرة على الإيقاف في المنتصف بحيث يعني الإيقاف شيئاً: لا ترحيل قاعدة بيانات مطبَّق نصفه، ولا فرع معلّق، ولا دفعة أُرسل بعضها.

والكلفة وزمن الاستجابة ليسا هامشاً كذلك. وكيل يشتغل على مسألة خمس دقائق قد يستهلك عشرات الاستدعاءات، ويكبر سياق كل استدعاء مع طول التشغيل. الجواب الواحد قد يكلّف أجزاءً من السنت، والتشغيل الوكيلي الطويل قد يكلّف دولارات، وزمن الانتظار الفعلي محسوب كذلك. والمقايضة مجدية حين تستغرق المهمة من الإنسان ساعة فعلاً، وخاسرة حين يكفي جواب مباشر. ويبقى «أعطني الجواب وأنا أتصرّف» هو التصميم الأصحّ في حالات أكثر بكثير مما توحي به الحماسة الحالية.

وتشتغل MentronX على طرفَي هذه المسألة — Firas AI يجيب، و Firas Agent يدير الحلقة — والقول الأمين إن الثاني أصعب هندسياً بفارق واسع، وسبب ذلك التحقق والتحكّم، وهما مشكلتان هندسيتان تُضافان فوق مشكلة استدلال لم تُحلّ بعد، لا أن تحلّا محلّها.