فتح عقل كلود لا يكفي: لماذا تُعتبر هندسة الأنطولوجيا أساسية للذكاء الاصطناعي القابل للتفسير
لقد وفرت الأبحاث الحديثة للشركة "أنثروبيك" حول قابلية التفسير للباحثين طريقة جديدة لمراقبة النشاط الداخلي لكلود. من خلال طريقة تُعرف باسم عدسة جاكوبي (أو J-lens)، تمكن فريق البحث من تحديد مجموعة صغيرة الحجم وقابلة للتعبير اللغوي من التمثيلات الداخلية، تُسمى J-Space.
فتح عقل كلود لا يكفي: لماذا تُعتبر هندسة الأنطولوجيا أساسية للذكاء الاصطناعي القابل للتفسير
مقدمة
لقد وفرت الأبحاث الحديثة للشركة "أنثروبيك" حول قابلية التفسير للباحثين طريقة جديدة لمراقبة النشاط الداخلي لكلود. من خلال طريقة تُعرف باسم عدسة جاكوبي (أو J-lens)، تمكن فريق البحث من تحديد مجموعة صغيرة الحجم وقابلة للتعبير اللغوي من التمثيلات الداخلية، تُسمى J-Space.
هذا الاكتشاف ذو أهمية كبيرة. فهو يشير إلى أن بعض المفاهيم داخل نماذج اللغة يمكن استخدامها عالميًا للإبلاغ والاستدلال والتحكم في السلوك. يمكن للباحثين مراقبة هذه التمثيلات والتدخل فيها في تجارب مضبوطة، لاختبار ما إذا كانت تؤثر سببيًا على مخرجات النموذج.
لكن ملاحظة التمثيلات الداخلية لا تعادل تفسيرها بشكل كامل.
قد تخبرنا حالة التنشيط القابلة للقراء أن النموذج يتتبع مفهومًا معينًا، مثل العد أو الخداع أو فرنسا أو الإكمال. لكن هذا لا يخبرنا تلقائيًا: لماذا هذا المفهوم ذو صلة؟ هل المعلومات التي يعتمد عليها موثوقة؟ ما هي الحقائق الخارجية التي تدعم الاستنتاج؟ أو ما إذا كان القرار النهائي معقولًا؟
يشير هذا التمييز إلى نهج أوسع للذكاء الاصطناعي القابل للتفسير. ليس علينا اعتبار الحالة الداخلية للنموذج هي الشيء الوحيد الذي يحتاج إلى تفسير، بل يمكننا في الوقت نفسه فحص المعلومات التي يعالجها النموذج: من أين تأتي هذه المعلومات، وكيف تم تشكيلها، وما هي المفاهيم والعلاقات المستخدمة، وكيف يتدفق الدليل في النظام، وكيف يتصل المخرجات النهائي بأنظمة المعرفة الخارجية.
وهنا يأتي دور هندسة الأنطولوجيا.
من علم الأعصاب إلى نظرية المعرفة: مساران لفهم قابلية التفسير
تقدم ورقة "أنثروبيك" البحثية بعنوان "التمثيلات القابلة للتعبير اللغوي تشكل مساحة عمل عالمية في نماذج اللغة" مفهوم J-Space من خلال الاستعانة بنظرية مساحة العمل العالمية من العلوم المعرفية.
في علم الأعصاب والعلوم المعرفية، توصف مساحة العمل العالمية عادةً بأنها مسرح محدود السعة، ويمكن للمعلومات المختارة فيه أن تكون متاحة على نطاق واسع لمجموعة متنوعة من العمليات المعرفية. وجدت "أنثروبيك" أن مجموعة فرعية صغيرة ومتفرقة من التمثيلات الداخلية لكلود يبدو أنها تؤدي وظيفة مماثلة.
استخدم الباحثون متجهات J-lens المرتبطة بعناصر معجمية لفحص الحالة الداخلية للنموذج. أظهرت تجاربهم أن المعلومات الممثلة في J-Space يمكنها:
- الإبلاغ عنها عندما يُسأل النموذج عما يفكر فيه
- استخدامها في مهام مختلفة
- الحفاظ عليها أثناء قيام النموذج بمعالجة وسيطة صامتة
- التلاعب بها بطريقة تغير الاستجابة النهائية سببيًا
- ربطها بإشارات سلوكية متعلقة بسلامة النموذج
تأخذ هذه النتائج قابلية التفسير خطوة إلى الأمام من مجرد ملاحظة السلوك الناتج. فهي توفر طريقة لاختبار وظيفة بعض التمثيلات الداخلية.
تتعامل "أنثروبيك" مع هذا الأمر بحذر.
لا يمكن الادعاء بأن كلود ينسخ البنية المعرفية الكاملة للدماغ البشري أو يمتلك وعيًا ذاتيًا. J-Space هو هيكل وظيفي داخل نظام رياضي، وليس دليلاً على نشاط داخلي شبيه بالإنسان.
هذا الحذر ضروري، لأنه من السهل الخلط بين التشابه الوظيفي والتكافؤ النفسي.
قد يحتوي النموذج على مساحة عمل داخلية مشتركة، لكنه لا يمتلك الإحساس أو الخبرة أو النية أو الوعي بالمعنى البشري. نمط التنشيط المرتبط بكلمة "خوف" ليس في حد ذاته خوفًا، بل هو حالة حسابية تشارك في توليد السلوك.
المنظور الداخلي
ينتمي J-Space إلى تقليد واسع من قابلية التفسير، نقطة انطلاقه هي سؤال:
ماذا يحدث داخل النموذج؟
يدرس هذا النهج الداخلي أنماط التنشيط والدوائر والخصائص وأنماط الانتباه والتمثيلات والمسارات السببية، بهدف جعل الآليات الخفية للشبكات العصبية أكثر قابلية للملاحظة والاختبار.
لهذا العمل قيمة واضحة، حيث يساعد الباحثين على:
- تحديد الخصائص المرتبطة بمفاهيم معينة
- اختبار ما إذا كانت التمثيلات تؤثر على السلوك
- كشف الأهداف الخفية أو الإشارات المتناقضة
- مقارنة عمليات المعالجة الداخلية تحت مطالبات مختلفة
- فحص الأعطال الأمنية قبل ظهورها في المخرجات
- تطوير تقنيات المراقبة والتدخل
ليس القصور في أن قابلية التفسير الداخلي غير مفيدة، بل في أن الرؤية الداخلية لا تغطي سوى مستوى واحد من التفسير.
قد يرتبط النمط العصبي بإجابة معينة، لكنه لا يستطيع حل مسألة معنى هذه الإجابة وأساسها.
افترض أن النموذج يقول "باريس هي عاصمة فرنسا". قد يحدد الكشف الداخلي تمثيلات مرتبطة بباريس وفرنسا والجغرافيا والعواصم، لكن لا تزال هناك عدة أسئلة خارجية معلقة:
- على أي مصدر معرفي يستند هذا الادعاء؟
- هل البيان محدث ومناسب للسياق؟
- ماذا يعني "عاصمة" في نظام المعرفة ذي الصلة؟
- إلى أي كيان يشير "باريس"؟
- هل الإجابة تستند إلى دليل موثوق أم إلى ارتباط إحصائي؟
- كيف ينبغي التعامل مع المصادر المتضاربة؟
- هل يستطيع النظام بيان سبب اختيار هذه الحقيقة دون غيرها؟
هذه الأسئلة ليست موجودة بالكامل داخل أنماط التنشيط، بل تتعلق بالعلاقة بين تمثيلات النموذج والحقائق الخارجية واللغة والمفاهيم البشرية ومعايير التبرير.
إمكانية الملاحظة ليست كل شيء في التفسير
تفترض قابلية التفسير الموجهة نحو الهندسة عادةً أن النظام قابل للتفسير عندما يستطيع الباحثون ملاحظة والتدخل في آلياته الداخلية.
هذا التعريف مفيد، لكنه ضيق جدًا.
في فلسفة العلوم ونظرية المعرفة، قد يتطلب التفسير أيضًا تقديم:
- أسباب الاستنتاج
- الارتباط بالأدلة
- قواعد عامة أو تفسيرات سببية
- أساس القرار
- طريقة للتمييز بين الأسباب الصحيحة وغير الصحيحة
- أساس للمساءلة والتدقيق
قد يكشف J-Space عن المعلومات التي تم تنشيطها في مهمة معينة، لكنه في حد ذاته لا يستطيع تحديد ما إذا كانت هذه المعلومات صحيحة أو ذات صلة أو أخلاقية، أو كافية لتبرير النتائج.
لذا، فإن السؤال الأعمق هو:
لا يكمن فقط في أن الشبكات العصبية نفسها غير شفافة، بل في أن المعلومات المحيطة بهذه الأنظمة غالبًا ما تكون غير منظمة ويصعب تتبعها.
تحويل المشكلة من النموذج إلى النظام البيئي للمعلومات
نماذج اللغة الكبيرة هي أنظمة معالجة معلومات. تستقبل النصوص والصور والملفات وردود الأدوات ونتائج قواعد البيانات وإشارات أخرى، ثم تولد المعلومات كرد.
يعتمد معنى هذه المدخلات والمخرجات على العلاقات خارج النموذج.
يشير المصطلح الطبي إلى مفهوم سريري، وتتوافق هوية المؤسسة مع كيان قانوني، وتنتمي قواعد السياسة إلى منطقة اختصاص محددة وفترة صلاحية، وتحتوي الأرقام المالية على مصدر ووحدة وتاريخ وتعريف محاسبي، وتعتمد الادعاءات العلمية على الأدلة والأساليب والافتراضات.
إذا لم يتم تقديم هذه العلاقات بشكل صريح، يجب على النموذج استنتاجها من خلال اللغة والسياق. هذا ينجح أحيانًا، لكنه قد ينتج أحيانًا أخرى غموضًا وتناقضات وهلاوس، أو إجابات تبدو معقولة ولكنها غير قابلة للتدقيق.
لذلك، يطرح نهج قابلية التفسير المرتكز على المعلومات الأسئلة التالية:
- ما هي أنواع الكيانات والمفاهيم الموجودة؟
- كيف ترتبط هذه الكيانات ببعضها البعض؟
- أي مصدر يدعم كل ادعاء؟
- ما هي الافتراضات والقواعد التي يتم تطبيقها؟
- كيف تتدفق المعلومات من الاسترجاع إلى الاستدلال إلى المخرجات؟
- أي أجزاء من الاستنتاج يمكن التحقق منها خارجيًا؟
- من المسؤول عن تعريف وصيانة المعرفة ذات الصلة؟
وهذا يوسع موضوع قابلية التفسير من الشبكة العصبية إلى البيئة المعلوماتية بأكملها التي يعمل فيها النموذج.
تشمل هذه البيئة:
- بيانات التدريب والمرجعية
- أنظمة الاسترجاع
- الرسوم البيانية المعرفية
- الأنطولوجيا والمعاجم
- مخرجات الأدوات
- سجلات التتبع
- قواعد التحقق
- تعليمات المستخدم
- سياسات المؤسسة
- عمليات المراجعة والموافقة البشرية
قد يكون النموذج قابلاً للتفسير داخليًا، لكنه لا يزال يعمل بناءً على معلومات غير محددة أو غير موثوقة. على العكس من ذلك، قد تكون آليات النموذج غير شفافة، لكنها قد تكون قابلة للتتبع بدرجة عالية لأن كل ادعاء مرتبط بأدلة منظمة وقواعد واضحة.
من المرجح أن تجمع أقوى الأنظمة بين هذين الشكلين من الشفافية.
الأنطولوجيا: الأساس الفلسفي للمعلومات القابلة للفهم
مصطلح الأنطولوجيا له معنيان مرتبطان.
في الفلسفة، تدرس الأنطولوجيا مسألة الوجود وكيفية تصنيف الأشياء. في علوم الكمبيوتر، الأنطولوجيا هي تمثيل رسمي للكيانات والفئات والخصائص والعلاقات والقيود داخل مجال معين.
تربط المقالة المصدرية بين قابلية تفسير الذكاء الاصطناعي ونظرية المقولات لإيمانويل كانط.
يعتقد كانط أن الفهم البشري لا يستقبل ببساطة البيانات الحسية الخام، بل ينظم التجربة من خلال أشكال مفاهيمية. لخص المقولات الاثنتي عشرة إلى:
- الكمية
- الكيفية
- العلاقة
- الجهة
تستخدم المقالة هذا الإطار لتوضيح وجهة نظر أوسع: المعلومات تصبح شيئًا قابلاً للفهم فقط بعد تنظيمها في هيكل مفاهيمي.
هذه الصورة مرتبطة ارتباطًا وثيقًا بالسياق.
تشير الفقرة السابقة إلى الفئات الاثني عشر لكانط، ويقدم هذا الرسم هذه الفئات الأربع بشكل مرئي، بما يتوافق مع شرح نظرية كانط في المقال. بالنسبة لأنظمة الذكاء الاصطناعي، فإن الأهمية العملية لا تكمن في ضرورة أن يمتلك نموذج اللغة فعليًا الفئات الاثني عشر لكانط. بل الفكرة الأكثر فائدة هي: أن قابلية التفسير تحتاج إلى إطار مشترك لتحديد أنواع الأشياء التي يناقشها النموذج وأنواع العلاقات التي يؤكدها.
على سبيل المثال، تأمل الجملة التالية:
رفض النظام الطلب لأن مقدم الطلب لم يستوف متطلبات الدخل.
لا يمكن للتفسير المفيد الاعتماد فقط على خرائط التنشيط. قد يحتاج إلى تحديد:
- مقدم الطلب ككيان
- الطلب ككائن عملية
- متطلبات الدخل كقيود سياسة
- قيمة الدخل المقدمة ومصدرها
- القواعد المستخدمة لمقارنة القيم بالعتبات
- العلاقة السببية أو الإثباتية بين عدم استيفاء الشرط والرفض
- نسخة السياسة السارية
- إجراءات الاستئناف أو المراجعة
يمكن للأنطولوجيا أن تحدد هذه العناصر والعلاقات بشكل رسمي.
توفر بنية دلالية تمكن من تفسير مخرجات النموذج والتحقق منها والطعن فيها.
مساهمة الأنطولوجيا
يمكن للأنطولوجيا المصممة جيدًا أن تحدد:
- الفئات: العملاء، الحسابات، المعاملات، الأدوية، الأعراض، العقود
- الحالات: عميل معين، دفعة، تشخيص، أو مستند
- الخصائص: صاحب الحساب، تاريخ المعاملة، الجرعة، حالة العقد
- العلاقات: توظيف، يسبب، يخول، يتعارض، يعتمد
- القيود: القيم المسموح بها، العددية، الحقول الإلزامية، الفئات غير المتوافقة
- المصادر: المنشأ، المؤلف، تاريخ النشر، الإصدار، مستوى الثقة
- القواعد: الشروط التي تحكم التصنيف، التحقق، أو التشغيل
يخلق هذا الهيكل نظام إحداثيات دلالي مستقر.
لا يحتاج المقيم إلى القول إن النموذج "يبدو أنه يفهم العلاقات السببية"، بل يمكنه أن يسأل ما إذا كان المخرجات تحتوي على علاقة سببية محددة بوضوح، وما إذا كانت الكيانات المعنية قد تم تحديدها بشكل صحيح، وما إذا كانت الأدلة المستشهد بها تدعم هذه العلاقة.
هذا لا يجعل كل قرار من النموذج صحيحًا تلقائيًا، لكنه يجعل المعلومات المستخدمة في القرار أكثر قابلية للتحقق.
من النظرية إلى التطبيق: دمج هندسة الأنطولوجيا مع نماذج اللغة الكبيرة
توفر الأنطولوجيا الفلسفية المفاهيم. هندسة الأنطولوجيا تحول هذه المفاهيم إلى أنظمة قابلة للاستخدام برمجيًا.
في الممارسة العملية، تتضمن هندسة الأنطولوجيا تعريف المجال، جمع المتطلبات، تحديد المفاهيم، نمذجة العلاقات، صياغة القيود، اختبار الاتساق، توثيق المصادر، وصيانة الأنطولوجيا عند تغير المجال.
غالبًا ما يكون تطوير الأنطولوجيا التقليدية مكلفًا وبطيئًا لأنه يعتمد بشكل كبير على خبراء المجال ومهندسي المعرفة.
يمكن لنماذج اللغة الكبيرة تسريع مراحل متعددة من العملية.
يمكنها المساعدة في:
- استخراج المفاهيم المرشحة من المستندات
- تحديد الفئات والخصائص المحتملة
- اقتراح أنظمة التصنيف
- اكتشاف المرادفات والمصطلحات ذات الصلة
- استخراج العلاقات
- تعيين مفردات إلى أخرى
- توليد تعريفات مسودة
- تحويل متطلبات اللغة الطبيعية إلى هياكل رسمية
- اكتشاف الثغرات أو التناقضات في المراجعة البشرية
- توليد وثائق لمستخدمي الأنطولوجيا
يشكل هذا علاقة ثنائية الاتجاه.
يمكن لنماذج اللغة تسريع بناء الأنطولوجيا، بينما تجعل الأنطولوجيا أنظمة نماذج اللغة أكثر تنظيمًا وقابلية للتحقق والتتبع.
ما الذي يمكن أن تحسنه نماذج اللغة الكبيرة في هندسة الأنطولوجيا؟
قد يقدم خبراء المجال عشرات التقارير والسياسات والأدلة وقواعد البيانات والمفردات. يمكن لنماذج اللغة الكبيرة مسح هذه المواد وتوليد قائمة أولية للمفاهيم والعلاقات.
على سبيل المثال، قد تحدد:
- "عميل"، و"زبون"، و"صاحب حساب" تُستخدم أحيانًا كمرادفات
- "الموافقة" هي عملية ذات حالات محددة
- "المعاملة عالية المخاطر" تعتمد على خصائص متعددة
- بعض المستندات تحدد عتبات متضاربة
- مجموعة بيانات تستخدم مصطلحات قديمة
- مفهوم يفتقر إلى تعريف رسمي
- قسمان يستخدمان نفس الكلمة لكيانات مختلفة
يمكن أن يقلل هذا من الجهد البشري في الاكتشاف.
ومع ذلك، لا يزال يتعين مراجعة المخرجات من قبل خبراء المجال. قد تختلق نماذج اللغة علاقات، أو تدمج مفاهيم كان يجب أن تبقى مستقلة، أو تعيد إنتاج تناقضات من المستندات المصدر.
لذلك، يجب اعتبار هندسة الأنطولوجيا المدعومة بنماذج اللغة الكبيرة نمذجة معرفية تحت إشراف بشري، وليس استخراجًا تلقائيًا للحقيقة.
ما الذي يمكن للأنطولوجيا تحسينه في أنظمة نماذج اللغة الكبيرة؟
يمكن للأنطولوجيا دعم تطبيقات نماذج اللغة بطرق متعددة.
التغذية المعرفية المنظمة
توفر الأنطولوجيا للنموذج مفردات مضبوطة وعلاقات واضحة. يمكن أن يقلل هذا من الغموض في عمليات الاسترجاع والتوليد.
الاسترجاع ودقة الكيان
يمكن للنظام ربط لغة المستخدم بكيانات قياسية، وتحديد المرادفات، واسترجاع المعلومات بناءً على المعنى بدلاً من الكلمات السطحية.
التحقق من المخرجات
يمكن فحص المخرجات مقابل قيود الأنطولوجيا. على سبيل المثال، قد تتطلب الجرعات الطبية وحدة، ويجب أن تحتوي المعاملة على حساب، أو يجب أن يستند قرار السياسة إلى قاعدة صالحة.
فحص الاتساق
يمكن للمستدلين وأنظمة التحقق اكتشاف التصنيفات غير المتوافقة، والخصائص المفقودة، أو التناقضات في البيانات المنظمة.
المنشأ والتتبع
يمكن ربط الادعاءات المولدة بالمستندات المصدر، ومفاهيم الأنطولوجيا، والقواعد، والإصدارات. وهذا يجعل المراجعة أكثر عملية من مطالبة المستخدمين بالثقة في التفسيرات غير الشفافة المولدة بعد الحدث.
واجهة مستقرة بين النموذج والأنظمة
يمكن للأنطولوجيا أن تعمل كعقد دلالي بين نماذج اللغة، وقواعد البيانات، والأدوات، والتطبيقات التجارية، والفرق البشرية.
يظل النموذج مرنًا لغويًا، بينما تحتفظ الأنظمة المحيطة بتمثيل مضبوط للمفاهيم الأساسية.
التفسير عبر سلسلة التتبع المعرفي
تزداد قيمة تفسيرات النموذج بشكل كبير عندما يمكن تقديمها كسلسلة تتبع:
- يحدد النظام كيانات محددة في الطلب.
- يربط هذه الكيانات بالمفاهيم المحددة.
- يسترجع الأدلة المرتبطة بهذه المفاهيم.
- يطبق السياسات أو العلاقات أو القيود المحددة.
- يولد الاستنتاج.
- يتحقق من الاستنتاج مقابل القواعد المنظمة.
- يحافظ المخرجات النهائية على الارتباطات بالأدلة والتعريفات.
هذا يختلف تمامًا عن مطالبة النموذج بتوليد فقرات سلسة لوصف "لماذا" تم تقديم الإجابة.
قد تكون التفسيرات المولدة نفسها متحيزة. بينما يمكن فحص سلاسل التتبع المرتكزة على المعرفة المنظمة بشكل مستقل.
تصميم أنطولوجيا صديقة للذكاء الاصطناعي
غالبًا ما كانت الأنطولوجيا التقليدية مصممة لمحركات الاستدلال الشكلية، وتحتوي على عدد كبير من البديهيات المعقدة المبنية لدعم الاستدلال الرمزي الحتمي.
قد تحتاج الأنطولوجيا المخصصة لنماذج اللغة الكبيرة إلى توازن مختلف.
يجب أن تظل الأنطولوجيا دقيقة، لكنها يجب أن تكون أيضًا سهلة الاسترجاع والاستشهاد والتطبيق من قبل النموذج.
يقترح المصدر أن الأنطولوجيا الصديقة للذكاء الاصطناعي يجب أن تركز على توفير هيكل عظمي دلالي واضح، بدلاً من محاولة تشفير جميع خطوات الاستدلال الممكنة.
هذا التقسيم للعمل ذو قيمة:
- تحدد الأنطولوجيا كائنات المجال، والعلاقات، والسلوكيات، والقيود، والمصطلحات.
- يعالج نموذج اللغة التفسير المرن، والتخطيط، والاستدلال، والمهام التركيبية.
- تفحص أدوات التحقق المخرجات الرئيسية مقابل القواعد الشكلية.
- يتعامل الخبراء البشريون مع عدم اليقين والاستثناءات والقرارات الكبرى.
يتجنب هذا النهج طرفين متطرفين.
الطرف الأول هو سير عمل غير منظم بالكامل لنماذج اللغة، يعتمد فقط على المطالبات والمستندات لتعريف المفاهيم المهمة. الطرف الثاني هو الأنظمة الرمزية المفرطة في الهندسة، التي تحاول صياغة كل التفاصيل مما يجعلها صعبة الصيانة.
مبادئ التصميم العملية
يجب أن تسعى الأنطولوجيا الصديقة للذكاء الاصطناعي إلى تحقيق الأهداف التالية:
تعريف واضح
يجب أن يكون لكل فئة وعلاقة مهمة وصف موجز لا لبس فيه.
معرفات مستقرة
يجب أن تستخدم الكيانات والمفاهيم الأساسية معرفات معيارية، وليس فقط الأسماء.
تتبع صريح
يجب أن تسجل التعريفات والحقائق والقواعد مصدرها ومالكها وإصدارها وتاريخ صلاحيتها.
تسميات قابلة للقراءة من قبل نماذج اللغة
يجب أن تحتوي المفاهيم على تسميات وأوصاف ومرادفات وأمثلة استخدام قابلة للقراءة البشرية.
هيكل معياري
يجب تقسيم الأنطولوجيا إلى وحدات قابلة للإدارة، مما يسمح للنموذج باسترجاع الأجزاء ذات الصلة فقط.
قواعد التحقق
يجب التحقق من البيانات والمخرجات عالية القيمة من خلال قيود صريحة (مثل أشكال SHACL أو أدوات التحقق على مستوى التطبيق).
إدارة التغيير
نظرًا لأن تغييرات الأنطولوجيا قد تؤثر على سلوك النموذج، يجب أن تخضع التحديثات للمراجعة وإدارة الإصدار والاختبار.
استرجاع قابل للتتبع
يجب أن تحتفظ التطبيقات بسجل للمفاهيم والحقائق المقدمة للنموذج.
آليات التصعيد البشري
يجب أن تحدد الأنطولوجيا السيناريوهات التي تكون فيها القواعد غير مكتملة أو المفاهيم غامضة أو الموافقة البشرية مطلوبة.
ضرورية.
لا قيمة للطبقة الدلالية إلا إذا تمت صيانتها.
قد تؤدي الأنطولوجيات القديمة إلى استمرار النظام في ارتكاب الأخطاء بطريقة تبدو منظمة للغاية.
مستقبل قابلية التفسير: شرح النموذج أم شرح تأثيره؟
يسلط الجدل حول J-Space الضوء على هدفين مختلفين.
الأول هو شرح النموذج نفسه: تمثيلاته الداخلية، ودوائره، وحساباته، وآليات سلوكه.
الثاني هو شرح تأثير النموذج: أي المعلومات شكلت المخرجات، وأي القواعد أذنت بالإجراءات، وما الأدلة التي دعمت النتائج، ومن يمكنه مراجعتها أو الطعن فيها.
تتداخل هذه الأهداف لكنها ليست متطابقة تمامًا.
قد تكشف قابلية التفسير الآلي أن النموذج قد مَثَّل الخداع داخليًا قبل إنتاج مخرجات مضللة. وقد يكشف التتبع القائم على الأنطولوجيا أي ادعاء كان كاذبًا، وأي مصدر دحضه، وأي عملية لاحقة تأثرت.
الأول يساعد الباحثين على فهم السلوك الداخلي. والثاني يساعد المؤسسات على حوكمة العواقب الواقعية.
لذلك، قد يتضمن النهج الكامل لقابلية التفسير طبقات متعددة:
- طبقة الآليات: ما هي السمات والمسارات الداخلية التي أثرت على السلوك؟
- طبقة السلوك: كيف يستجيب النموذج تحت الاختبارات الخاضعة للرقابة؟
- طبقة المعلومات: ما الأدلة والمفاهيم والعلاقات التي شكلت المخرجات؟
- طبقة النظام: ما هي الأدوات وقواعد البيانات والاستدعاءات والاستراتيجيات المتضمنة؟
- طبقة التأثير: ما الإجراءات التي حدثت، ومن تأثر، وكيف يمكن مراجعتها؟
- طبقة الحوكمة: من يملك القواعد، ومن يوافق على التغييرات، ومن يتحمل المسؤولية؟
تعزز هندسة الأنطولوجيا بشكل أساسي طبقة المعلومات وطبقة النظام. كما يمكنها دعم تحليل التأثير والحوكمة من خلال توضيح المفاهيم والقواعد والمصادر.
لا يمكنها أن تحل محل قابلية التفسير العصبي.
لا تستطيع الرسوم البيانية المعرفية المنظمة الكشف عن الأهداف الخفية المضمنة في أوزان النموذج. لا يمكن لـ J-Space إثبات أن المستند المصدر موثوق أو أن قواعد العمل عادلة.
يحل كل من هذين النهجين جزءًا مختلفًا من المشكلة.
من "فتح الصندوق الأسود" إلى بناء أنظمة قابلة للمساءلة
قد يضع تشبيه فتح الصندوق الأسود للذكاء الاصطناعي هدفًا غير واقعي: الشفافية الكاملة وصولاً إلى كل وزن وحساب داخلي.
بالنسبة للنماذج المتطورة، قد لا يكون هذا ممكنًا عمليًا كما يتخيله البعض.
الهدف الأكثر قابلية للتحقيق هو جعل تشغيل النظام مفهومًا وقابلاً للتتبع والاختبار والحوكمة بشكل كافٍ في سياق استخدامه.
وهذا يعني تصميم أنظمة بحيث:
- تكون المفاهيم الهامة محددة بوضوح
- ترتبط الأدلة بالادعاءات
- تكون القواعد مُدارة الإصدارات
- يتم تسجيل استدعاءات الأدوات
- يتم التحقق من المخرجات
- تتطلب الإجراءات عالية التأثير تفويضًا
- يتم الاحتفاظ بحالة عدم اليقين
- يمكن للبشر إعادة بناء المسار من المدخلات إلى القرارات
- داخليًا
باستخدام وسائل المراقبة حيثما كان ذلك ممكناً تقنياً.
التحول الأساسي هو: لم يعد التعامل مع قابلية التفسير كمسألة تصور واحدة، بل كمسألة هندسية وحوكمة.
قد لا نكون قادرين أبدًا على ترجمة كل حساب عصبي بالكامل إلى قصة مفهومة للبشر. لكن لا يزال بإمكاننا بناء بنية معلوماتية تجعل المخرجات عالية التأثير أسهل في الفهم والطعن.
تحول هندسة الأنطولوجيا هذا الهدف إلى عمل ملموس:
- تعريف المجال
- إضفاء الطابع الرسمي على العلاقات الهامة
- تتبع المصادر
- التحقق من البيانات
- ربط الادعاءات بالأدلة
- تسجيل القواعد والإصدارات
- الاحتفاظ بمسار القرارات
- إثبات الملكية وآليات المراجعة
هذا ليس مثيرًا مثل "قراءة أفكار النموذج"، لكنه قد يكون أكثر فائدة في الإنتاج الفعلي.
حالات الأعمال المذكورة في المصدر
ينتهي المقال الصيني الأصلي بذكر ترويجي لـ LegionSpace (منتج مرتبط بـ Dunfu). يصفه المصدر بأنه بنية تحتية للذكاء الاصطناعي على مستوى المؤسسات مبنية حول هندسة الأنطولوجيا والاستدلال القابل للتتبع.
لم يقم هذا الاقتباس بتقييم مستقل لادعاءات هذه المنتجات، وبالتالي لا يستخدمها كدليل في النقاش الأوسع.
الدرس ذو الصلة عام: يجب تقييم أي منصة تدعي تقديم قابلية تفسير قائمة على الأنطولوجيا من خلال أسئلة محددة:
- هل يمكن للمستخدم مراجعة الأنطولوجيا؟
- هل التعريفات والقواعد مُدارة الإصدارات؟
- هل يتم الاحتفاظ بمعلومات المصدر؟
- هل يمكن تتبع الادعاءات المُنتجة إلى المواد الأصلية؟
- هل فشل التحقق مرئي؟
- هل يمكن لخبراء المجال تحرير نموذج المعرفة؟
- هل هناك فصل واضح بين استدلال النموذج والتحقق الرسمي؟
- هل يمكن للنظام تصدير بياناته المنظمة بتنسيقات قياسية؟
- هل يتم دعم التدقيق المستقل؟
لا ينبغي اعتبار المنتج قابلاً للتفسير لمجرد أنه استخدم رسمًا بيانيًا معرفيًا أو عرض رسمًا استدلاليًا.
أسئلة شائعة
ما هو J-Space في Claude؟
J-Space هو الاسم الذي أطلقته Anthropic على مجموعة فرعية صغيرة من التمثيلات الداخلية التي تم تحديدها من خلال عدسة جاكوبي. أظهرت الأبحاث أن هذه التمثيلات يمكن أن تحتوي على مفاهيم قابلة للتعبير اللفظي يمكن استخدامها لإعداد التقارير والاستدلال والتدخلات السببية.
هل يثبت J-Space أن Claude واعٍ؟
لا. لم تزعم Anthropic أن نموذجها يعيد إنتاج الوعي البشري أو التجربة الذاتية. يُظهر J-Space تشابهًا وظيفيًا جزئيًا مع نظرية مساحة العمل العالمية، لكن التشابه الوظيفي ليس دليلاً على وجود عقل شبيه بالإنسان.
لماذا لا تكفي قابلية التفسير الداخلي؟
يمكن للأدوات الداخلية إظهار أي التمثيلات أو الآليات أثرت على السلوك، لكنها لا تستطيع تحديد ما إذا كانت معلومات النموذج حقيقية أو من مصدر موثوق أو ذات صلة أو معقولة تلقائيًا. تتطلب قابلية التفسير أيضًا الأدلة والتعريفات الدلالية والمصادر والقواعد وشرح التأثيرات في العالم الحقيقي.
ما هي هندسة الأنطولوجيا؟
هندسة الأنطولوجيا هي ممارسة التعريف الرسمي للكيانات والفئات والخصائص والعلاقات والقيود في مجال معين. في أنظمة البرمجيات، يتم تمثيل الأنطولوجيات عادةً بمعايير مثل RDF و OWL ويمكن التحقق منها عبر SHACL.
كيف تجعل الأنطولوجيا مخرجات نماذج اللغة كبيرة (LLM) أكثر قابلية للتفسير؟
توفر الأنطولوجيا مفاهيم معيارية وعلاقات واضحة، مما يرسي عمليات الاسترجاع والتوليد والتحقق. تساعد في ربط الادعاءات بمفاهيم محددة وأدلة داعمة وقواعد رسمية وإصدارات مسجلة.
هل يمكن لنماذج اللغة الكبيرة بناء أنطولوجيا موثوقة تلقائيًا؟
يمكن لنماذج اللغة الكبيرة تسريع استخراج المفاهيم واكتشاف العلاقات ورسم الخرائط وكتابة الوثائق، لكن اقتراحاتها تحتاج إلى مراجعة الخبراء. قد يؤدي التوليد التلقائي الكامل للأنطولوجيا إلى إعادة إنتاج أخطاء البيانات المصدر، أو دمج مفاهيم مختلفة، أو إنشاء علاقات غير مدعومة بأدلة.
هل يمكن للأنطولوجيا القضاء على هلوسة الذكاء الاصطناعي؟
لا. يمكن للأنطولوجيا تقييد المخرجات المهمة وتحسين قابلية التتبع، لكنها لا تستطيع القضاء على جميع أخطاء النموذج. تحتاج الأنظمة الموثوقة أيضًا إلى مراقبة الجودة في الاسترجاع والتحقق والاختبار وإدارة الصلاحيات والمراقبة والمراجعة البشرية.
هل يجب على المؤسسات اختيار هندسة الأنطولوجيا أم قابلية التفسير الآلي؟
إنها تحل طبقات مختلفة من قابلية التفسير، ومن الأفضل استخدامها كأدوات متكاملة. تدرس قابلية التفسير الآلي السلوك الداخلي للنموذج، بينما تجعل هندسة الأنطولوجيا المعلومات والقواعد ومسارات القرارات الخارجية أسهل في المراجعة.
أدوات ذات صلة
- Protégé: محرر أنطولوجيا OWL مفتوح المصدر ومجاني من جامعة ستانفورد.
- WebProtégé: بيئة تطوير أنطولوجيا تعاونية قائمة على المتصفح.
- Apache Jena: إطار عمل مفتوح المصدر بلغة Java لـ RDF و SPARQL والبيانات المترابطة والتطبيقات الدلالية.
Eclipse RDF4J: إطار عمل جافا معياري لإنشاء بيانات RDF وتخزينها والاستعلام عنها والاستنتاج منها والتحقق من صحتها.
- GraphDB: قاعدة بيانات رسومية بيانية RDF تدعم SPARQL والاستنتاج والتصور وأدوات البيانات الدلالية.
روابط ذات صلة
- Anthropic: مساحة العمل العالمية في النماذج اللغوية: التعريف الرسمي من Anthropic حول J-Space وعدسة جاكوبي.
- تشكل التمثيلات القابلة للتعبير اللفظي مساحة عمل عالمية في النماذج اللغوية: ورقة البحث الفنية الكاملة وراء اكتشاف J-Space.
- نظرة عامة على W3C OWL 2: نظرة عامة رسمية على لغة الويب الأنطولوجية.
- جوهر W3C SHACL 1.2: أحدث مواصفات تعريف قيود رسوم RDF والتحقق منها.
- مقدمة W3C RDF 1.1 للمبتدئين: مقدمة حول نموذج بيانات رسوم RDF للمبتدئين.
- النماذج اللغوية الكبيرة لهندسة الأنطولوجيا: مراجعة منهجية لتطبيقات النماذج اللغوية الكبيرة في مهام هندسة الأنطولوجيا.
- تسريع تطوير قواعد المعرفة والأنطولوجيا بالتعاون مع النماذج اللغوية الكبيرة: ورقة بحثية تلخص فرص الاستفادة من النماذج اللغوية الكبيرة في تطوير قواعد المعرفة والأنطولوجيا.
خلاصة
يعد بحث J-Space من Anthropic تقدماً كبيراً في مجال قابلية التفسير الميكانيكي. فهو يوفر للباحثين طريقة جديدة لمراقبة واختبار عدد صغير من التمثيلات الداخلية القابلة للتجسيد في Claude بشكل سببي.
لا يحل هذا البحث مشكلة التفسير الأوسع نطاقاً. ففهم أنظمة الذكاء الاصطناعي يتطلب أيضاً توضيح المعلومات التي تستخدمها، ومعاني المفاهيم، والأدلة التي تستند إليها ادعاءاتها، والقواعد التي تتبعها في سلوكها، وتأثيرات مخرجاتها.
توفر هندسة الأنطولوجيا مساراً عملياً لصياغة هذه الهياكل الخارجية. فهي تدعم الاسترجاع الدلالي، والتحقق، والتتبع، والتعقب، والمساءلة، وتكون أكثر فعالية خاصة عند دمجها مع المراجعة البشرية والدراسات الداخلية لقابلية التفسير.
قد لا يكمن المفتاح الحقيقي للذكاء الاصطناعي القابل للتفسير في اختيار "فتح النموذج" أو "بناء إطار للعالم الخارجي"، بل في تعلم الجمع بينهما.