تحذير كارپاثي بشأن الوكلاء: ابنِ النموذج أولًا، لا العرض التجريبي فقط

المقدمة

وكلاء الذكاء الاصطناعي موجودون في كل مكان الآن. ففي كل أسبوع، تظهر أداة جديدة تعد بتصفح الويب، والتحكم في الكمبيوتر، وحجز شيء ما، وكتابة الشيفرة، أو إنجاز سير عمل كامل بمجرد تعليمات قصيرة من المستخدم.

ذلك الحماس حقيقي. لكن رسالة أندريه كارپاثي الأخيرة إلى مطوري الوكلاء لاقت صدى لأنها تعاكس المزاج السائد حاليًا: فقبل دفع الوكلاء إلى القيام بكل شيء، ينبغي على المطورين أولًا فهم النموذج الأساسي الكامن وراءهم وتحسينه.

المقصود ليس أن وكلاء الذكاء الاصطناعي بلا فائدة. بل إن الفكرة أكثر حدة من ذلك. فالعرض التجريبي المبهر قد يخفي أسسًا ضعيفة. أما المنتج الحقيقي، فعليه أن يصمد أمام المدخلات الفوضوية، والمهام الطويلة، والحالات الطرفية، ومشكلات الذاكرة، وتغيرات الواجهة، وثقة المستخدم. وهنا تحديدًا ينهار كثير من مشاريع الوكلاء.

الرسالة التي أوقفت مطوري الوكلاء

بدأ النقاش من مقطع قصير ومنشور واسع الانتشار يلخص رؤية كارپاثي. وكانت الفكرة الأساسية بسيطة: قد يكون مجال الذكاء الاصطناعي يرتكب خطأ حين يجبر الوكلاء على العمل قبل أن يتقن تمامًا النماذج التي تقوم عليها.

تبدو هذه الجملة مزعجة لأنها تتحدى سباق الوكلاء الحالي. فكثير من الفرق تحاول تحويل نماذج اللغة الكبيرة الحالية إلى عمال مستقلين بأسرع ما يمكن. وهي تطوق النماذج بالأدوات، والذاكرة، والتحكم في المتصفح، والوصول إلى الملفات، والمهام المجدولة، وسير العمل متعدد الخطوات.

قد تساعد هذه الطبقات. لكنها لا تلغي السؤال الأساسي: هل يستطيع النموذج الاستدلال بموثوقية كافية، والتخطيط بوضوح كافٍ، والتعافي من الأخطاء، وفهم المهمة بعمق كافٍ؟

إذا كانت الإجابة لا، فإن إضافة المزيد من البنية الداعمة للوكلاء قد تجعل النظام يبدو أكثر قدرة في العرض التجريبي، بينما يصبح أصعب في تصحيح الأخطاء داخل بيئة الإنتاج.

درس 2016: World of Bits

تحذير كارپاثي ليس نظريًا فقط. فالمقال الأصلي يعود إلى مشروع من عام 2016 هو World of Bits، وهي منصة لوكلاء يعملون عبر الويب، بُنيت على فكرة أن الوكلاء يمكنهم التفاعل مع الإنترنت من خلال إجراءات لوحة المفاتيح والفأرة.

في ذلك الوقت، بدا الهدف مستقبليًا. كان الوكيل سيستخدم صفحات الويب بالطريقة نفسها التي يستخدمها بها الإنسان: ينقر الأزرار، ويملأ النماذج، ويتنقل بين الصفحات، وينجز مهامًا مثل حجز الرحلات أو طلب الطعام. وهذا يبدو قريبًا جدًا من الوعود التي يسمعها الناس اليوم عن منتجات الوكلاء.

أصبح المشروع جهدًا بحثيًا جادًا وكان

نُشر في مؤتمر ICML عام 2017 تحت عنوان «World of Bits: منصة مفتوحة المجال للوكلاء المعتمدين على الويب». لكن الحلم الأكبر للمنتج لم يتحقق بالكامل في ذلك الوقت.

الدرس المهم ليس أن الفكرة كانت خاطئة، بل أن الأدوات المتاحة لم تكن جاهزة. فمجال الوكلاء لم يكن يمتلك بعد نماذج الأساس الحالية، أو الأنظمة متعددة الوسائط، أو أنماط استخدام الأدوات، أو نماذج اللغة الكبيرة القادرة على البرمجة. وكان التعلم المعزز أحد الأدوات الرئيسية آنذاك، لكنه لم يكن كافيًا لتحويل الفكرة إلى منتج عام متين.

ولهذا تكتسب رسالة كارباتي أهميتها الآن. فقد يصل اتجاه جذاب تقنيًا في وقت مبكر أكثر من اللازم إذا لم تكن القدرات الأساسية قوية بما يكفي.

من عرض وكيل فاشل إلى أسس أقوى

إحدى الطرق المفيدة لقراءة قصة World of Bits هي اعتبارها درسًا في التوقيت.

كان الفريق يعمل على شيء بدا وكأنه المستقبل، لكن المجال لم يكن قد بنى بعد الأساس اللازم لدعمه. وبالنظر إلى الماضي، فإن حجة كارباتي هي أن الخيار الأفضل كان سيكون تقليل التركيز على إجبار الوكلاء على أداء المهام، وزيادة التركيز على تحسين نماذج اللغة وتعلم التمثيل الكامنين تحتها.

وهذا أيضًا ما يجعل اللحظة الحالية مثيرة للاهتمام. فقد تغيرت الأدوات. تستطيع نماذج اللغة الكبيرة الآن الاستدلال باللغة الطبيعية، واستدعاء الأدوات، وكتابة الشفرة البرمجية، وتفسير لقطات الشاشة، والاحتفاظ بسياق أطول من الأنظمة السابقة. وأصبحت بنية الوكلاء أكثر قابلية للتصديق بكثير مما كانت عليه في عام 2016.

ومع ذلك، فإن الأدوات الأقوى لا تمحو صعوبة بناء المنتج. إنها فقط تدفع حدود الإمكانات إلى الأمام.

جيم فان واستمرارية أبحاث الوكلاء

يربط المقال الأصلي أيضًا بين World of Bits والأعمال اللاحقة المتعلقة بالوكلاء المتجسدين من خلال باحثين مثل جيم فان. وهذا مهم لأن قصة الوكلاء لم تختفِ بعد تعثر المشاريع المبكرة لوكلاء الويب، بل تطورت إلى مجالات بحثية أكثر ثراءً: بيئات المحاكاة، ووكلاء ماينكرافت، والتعلم المفتوح النهاية، والذكاء المتجسد.

تُظهر مشاريع مثل MineDojo وVoyager مسارًا مختلفًا عن فكرة «التنقل بين بضع صفحات ويب على أمل أن ينجح الوكيل». فهي تستكشف الوكلاء في بيئات يمكن فيها دراسة الأهداف، والذاكرة، والإجراءات، والمهارات، والتغذية الراجعة بصورة أكثر منهجية.

وهذا لا يعني أن وكلاء ماينكرافت يحلون مباشرةً أتمتة الأعمال. بل يعني أن التقدم الجاد في مجال الوكلاء يأتي عادةً من بيئات أفضل، وتقييم أفضل، وسلوك نموذجي أفضل، وحلقات تغذية راجعة أوضح.

العرض التجريبي سهل؛ أما المنتج فيستغرق سنوات

إحدى أكثر النقاط العملية في المقال هي الفجوة بين العرض التجريبي والمنتج.

فالعرض التجريبي لا يحتاج إلا إلى أن ينجح مرة واحدة، وغالبًا في ظروف مُعدّة مسبقًا. أما المنتج فيجب أن يعمل مرارًا وتكرارًا، لمستخدمين مختلفين، وعبر مواقف مختلفة، مع جعل الإخفاقات مفهومة وقابلة للتعافي منها.

وتُعد القيادة الذاتية مقارنة مفيدة. فقد تبدو سيارة تقود حول مبنى واحد أمرًا مدهشًا. لكن نظام قيادة ذاتية جاهز للإنتاج يجب أن يتعامل مع الأحداث النادرة، والظروف السيئة،

الرؤية، والسلوك الغريب على الطرق، والقيود التنظيمية، وتوقعات السلامة، وسنوات من التكرار.

اتبعت تقنيات الواقع الافتراضي نمطًا مشابهًا. فقد يكون عرض توضيحي لنظارة رأس مذهلًا خلال خمس دقائق. لكن المنتج المستدام يتطلب أجهزة، وبرمجيات، ومحتوى، وراحة في الاستخدام، وتسعيرًا، وتوزيعًا، وقيمة متكررة للمستخدم.

وينتمي الوكلاء إلى هذه الفئة. فمن السهل تخيلهم ومن السهل عرضهم تجريبيًا، لكن من الصعب طرحهم كمنتجات متينة.

ثلاثة دروس عملية لبنّائي الوكلاء

1. افهم النموذج قبل توسيع الغلاف المحيط بالوكيل

قبل إضافة المزيد من الأدوات، اسأل: ما الذي يستطيع النموذج فعله وما الذي لا يستطيع فعله بشكل موثوق؟ هل يمكنه اتباع تعليمات طويلة؟ هل يستطيع معرفة متى يكون غير متأكد؟ هل يمكنه التعافي بعد فشل استدعاء واجهة برمجة تطبيقات؟ هل يستطيع التحقق من عمله بنفسه؟

إذا كان النموذج ضعيفًا في المركز، فإن المزيد من التنسيق قد يجعل النظام أكثر هشاشة لا أكثر فائدة.

2. تعامل مع العرض التوضيحي على أنه البداية لا خط النهاية

العرض التوضيحي الجيد ذو قيمة لأنه يثبت اتجاهًا معينًا. لكنه ليس توافقًا بين المنتج والسوق، ولا موثوقية، ولا ثقة.

في منتجات الوكلاء، يبدأ العمل الحقيقي بعد العرض التوضيحي: التسجيل، والتقييم، والتراجع، والمراجعة البشرية، وتصميم الأذونات، وحدود الذاكرة، والتعامل مع الإخفاقات.

3. ابنِ أسسًا تسمح للوكلاء بالظهور

أقوى درس منتجي لدى Karpathy هو أن الوكيل نفسه قد لا يكون المنتج. فقد يكون المنتج الأعمق هو قدرة النموذج، وتصميم البيئة، وخط أنابيب البيانات، ونظام التقييم، وواجهة الأدوات التي تجعل سلوك الوكيل موثوقًا.

يمكن لأساس أقوى أن يجعل العديد من سلوكيات الوكلاء ممكنة. أما الأساس الضعيف فيحوّل كل سير عمل إلى خليط مُرقّع من الحالات الخاصة.

عودة Karpathy إلى التدريب المسبق

تشير المقالة أيضًا إلى انتقال Karpathy إلى فريق التدريب المسبق في Anthropic. وهذا مهم لأنه يعزز الرسالة نفسها: ما تزال الحدود الأمامية مرتبطة بعمق بالعمل التأسيسي على النماذج.

قد يبدو التدريب المسبق أقل بريقًا من الوكلاء، لكنه يشكّل القدرة الخام التي يعتمد عليها كل شيء آخر. فالنماذج الأفضل يمكن أن تحسن الاستدلال، وفهم اللغة، واستخدام الأدوات، والبرمجة، والتخطيط، والإدراك متعدد الوسائط.

وبالنسبة لبنّائي الوكلاء، لا يعني هذا أن على الجميع تدريب نماذج من الطراز الحدودي. فمعظم الفرق لا تستطيع ذلك. لكنها تحتاج إلى فهم سلوك النموذج بما يكفي للتصميم على أساسه.

يجب أن يعرف الفريق الذي يبني الوكلاء أي الإخفاقات تأتي من التلقين، وأيها تأتي من تصميم الأدوات، وأيها تأتي من نقص السياق، وأيها تأتي من الحدود الكامنة في النموذج نفسه.

التعلّم من الدماغ

بعد الدرس المتعلق بالمنتج، يتجه المقال الأصلي نحو علم الأعصاب. ويُقال إن Karpathy شجّع البنّائين على التفكير فيما يمكن لأنظمة الوكلاء أن تتعلمه من الدماغ.

والمقارنة هنا لا تتعلق بنسخ علم الأحياء حرفيًا، بل بطرح أسئلة بنيوية أفضل.

ما الذي يؤدي دور الذاكرة؟ وما الذي يختار

الأفعال؟ ما الذي يخزن المهارات؟ ما الذي يقرر أي فكرة أو خطة تحظى بالانتباه؟ ما الذي يمنع الأهداف طويلة المدى من أن تُمحى بسبب ضوضاء قصيرة المدى؟

هذه الأسئلة مفيدة لأن منتجات الوكلاء تفشل غالبًا تحديدًا في هذه الجوانب. فهي تنسى السياق. وتختار الإجراء التالي الخطأ. وتبالغ في التفاعل مع معلومات غير ذات صلة. ولا تستطيع الحفاظ على خطة مستقرة. وتفشل بصمت.

قد تحتاج بنية الوكيل الأكثر نضجًا إلى فصل أوضح بين الذاكرة، والتخطيط، والفعل، والتأمل، والاسترجاع، والتحقق.

لماذا لا يزال المطورون المستقلون مهمين

الجزء الأكثر تشجيعًا في رسالة كارباتي ليس النقد، بل التذكير بأن حدود تطوير الوكلاء ما تزال مفتوحة.

تمتلك المختبرات الكبرى خبرة عميقة في تدريب نماذج اللغة المتقدمة. وقد اطّلعت على كثير من أفكار تدريب النماذج قبل سنوات من ظهورها للعامة. وفي هذا المجال، فجوة الخبرة هائلة.

أما منتجات الوكلاء فمختلفة. فما يزال هذا المجال في بداياته. ولم تُحسم بعد على نحو كامل أفضل سير العمل، والواجهات، وأنماط الذاكرة، وأنظمة الأذونات، وحلقات المراجعة، وفئات المنتجات.

وهذا يمنح المطورين المستقلين، والشركات الناشئة، والفرق البحثية الصغيرة فرصة حقيقية. إذ يمكنهم تجربة أفكار أكثر حدة، والتحدث إلى المستخدمين بسرعة أكبر، وتغيير الاتجاه بسرعة، واستكشاف تدفقات عمل للمنتجات قد لا تعطيها المختبرات الكبرى أولوية.

لذلك فالمقصود من التحذير ليس «لا تبنوا وكلاء»، بل «لا تتجاوزوا الأسس».

ملاحظات حول المصدر والصور

هذه المقالة صياغة إنجليزية أصلية مستندة إلى الصفحة المصدر العامة من BAAI Hub: https://hub.baai.ac.cn/view/56135.

تتضمن الصفحة المصدر عدة صور. وتحتفظ هذه النسخة بصيغة Markdown فقط بالصور التي تدعم معنى المقال، مثل لقطات شاشة من X، ولقطات الأوراق البحثية، والتحديثات البحثية، وغلاف الكتاب المشار إليه. ولم تُدرج الصور التي تحتوي على شعارات فقط، أو صور رموز QR، أو اللافتات الترويجية، أو الصور الزخرفية غير المرتبطة.

الأسئلة الشائعة

ما التحذير الرئيسي الذي يطرحه كارباتي بشأن وكلاء الذكاء الاصطناعي؟

التحذير الرئيسي هو أن البنّائين قد يندفعون إلى جعل الوكلاء يؤدون مهام معقدة قبل أن تصبح النماذج الأساسية موثوقة بما يكفي. يمكن للأغلفة البرمجية الخاصة بالوكلاء أن تساعد، لكنها لا تستطيع التعويض بالكامل عن ضعف الاستدلال، أو سوء التعافي من الإخفاقات، أو الفهم السطحي للمهام.

ما هو World of Bits؟

كان World of Bits منصة بحثية للوكلاء المعتمدين على الويب، ونُشرت في ICML 2017. وقد استكشفت وكلاء يتفاعلون مع المواقع الإلكترونية من خلال إجراءات منخفضة المستوى مثل إدخال لوحة المفاتيح واستخدام الفأرة.

لماذا يُعد الفرق بين العرض التجريبي والمنتج مهمًا جدًا بالنسبة للوكلاء؟

يمكن إعداد العرض التجريبي واختباره ضمن بيئة ضيقة. أما المنتج فعليه أن يعمل عبر عدد كبير من المستخدمين والمهام والأخطاء والأذونات والحالات الطرفية. ولهذا السبب تتطلب منتجات الوكلاء عادة عملًا طويل الأمد على الموثوقية والتقييم.

هل يعني هذا أن بناء وكلاء الذكاء الاصطناعي لا يستحق العناء؟

لا.

الحجة ليست ضد الوكلاء، بل ضد بناء وكلاء من دون فهم النموذج، والبيئة، وعملية التقييم، وقيود المنتج الكامنة في الأساس.

لماذا يهم التدريب المسبق لمنتجات الوكلاء؟

يؤثر التدريب المسبق في قدرات النموذج الأساسي على الاستدلال، وفهم اللغة، واستخدام الأدوات، والتعميم. وكلما كانت النماذج الأساسية أقوى، أصبح سلوك الوكيل أسهل في التصميم والتقييم والوثوق به.

ماذا يمكن لبناة الوكلاء أن يتعلموا من علم الأعصاب؟

يمكن لعلم الأعصاب أن يلهم أسئلة حول الذاكرة، واختيار الأفعال، والانتباه، والتخطيط، والمراقبة الذاتية. وقد تحتاج أنظمة الوكلاء إلى بنية أوضح حول هذه الوظائف بدلًا من الاعتماد على موجّه طويل واحد أو حلقة عامة واحدة.

هل تتأخر الفرق الصغيرة عن مختبرات الذكاء الاصطناعي الكبرى في تطوير الوكلاء؟

ليس بالضرورة. تمتلك المختبرات الكبرى أفضلية هائلة في تدريب النماذج الرائدة، لكن أنماط منتجات الوكلاء لا تزال غير مستقرة. ويمكن للفرق الصغيرة أن تتحرك بسرعة وتكتشف سير عمل مفيدًا قبل أن يصبح واضحًا للجميع.

الأدوات ذات الصلة

• Claude: مساعد الذكاء الاصطناعي من Anthropic، ويُستخدم كثيرًا في الاستدلال والكتابة والبرمجة ودعم سير العمل.
• وثائق Claude API: الوثائق الرسمية لبناء التطبيقات باستخدام نماذج Claude من Anthropic.
• World of Bits: منصة بحثية لدراسة الوكلاء المعتمدين على الويب الذين ينفذون إجراءات لوحة المفاتيح والفأرة.
• MineDojo: إطار عمل قائم على Minecraft لأبحاث الوكلاء المتجسدين المفتوحة النهاية.
• Voyager: مشروع وكيل متجسد مدعوم بنماذج لغوية كبيرة للتعلم مدى الحياة في Minecraft.

الروابط ذات الصلة

• المصدر الأصلي على BAAI Hub: المقالة المصدر التي استندت إليها هذه الصياغة الإنجليزية من حيث الحقائق.
• ورقة World of Bits: الصفحة الرسمية على PMLR لورقة مؤتمر ICML 2017.
• ملف PDF لورقة World of Bits: النسخة المباشرة بصيغة PDF من الورقة البحثية.
• تحديث Karpathy حول Anthropic: منشور Karpathy العلني حول انضمامه إلى Anthropic.
• الموقع الرسمي لـ Anthropic: الموقع الرسمي لـ Anthropic وإعلانات Claude ذات الصلة.
• ورقة Voyager: ورقة arXiv الخاصة بـ Voyager، وهو وكيل متجسد مفتوح النهاية يعتمد على النماذج اللغوية الكبيرة.
• ورقة MineDojo: ورقة arXiv الخاصة بإطار MineDojo للوكلاء المتجسدين المفتوحين.
• الدماغ والسلوك: صفحة دار نشر جامعة أكسفورد لكتاب علم الأعصاب المشار إليه في النقاش.

الملخص

تشرح هذه المقالة تحذير Karpathy بشأن الاندفاع الحالي نحو وكلاء الذكاء الاصطناعي: فالوكلاء مثيرون للاهتمام، لكن الأسس الضعيفة تجعلهم هشّين. والدرس المستفاد من World of Bits هو أن الفكرة القوية قد تصل أيضًا قبل أن يمتلك المجال الأدوات المناسبة.

أما بالنسبة للبنّائين اليوم، فالمسار العملي ليس التخلي عن الوكلاء، بل فهم النموذج، وبناء أنظمة تقييم أقوى، وتصميم حلقات تنفيذ أكثر أمانًا، والتعامل مع العروض التوضيحية على أنها بداية عمل المنتج لا نهايته.

من خط النهاية.

الخلاصة المفيدة بسيطة: ابنِ الأساس أولًا، ثم دع الوكلاء الأفضل ينبثقون منه.