← 返回首页

كسر قيود Claude Fable 5 مجددًا: ما الذي يكشفه اختبار العشرين ساعة

إن كسر قيود Fable 5 للمرة الثانية ليس قصة بسيطة عن فشل كامل. فهو يُظهر أن دفاعات Anthropic متعددة الطبقات تبدو قادرة على صدّ معظم المحاولات المباشرة، لكن فرق الاختبار الهجومية المصممة ما زالت تستطيع العثور على ثغرات ضيقة إذا توفر لها ما يكفي من الوقت والتكرار والإبداع. المشكلة الأعمق هي أن سلامة الذكاء الاصطناعي لا تتعلق فقط بحظر الكلمات المفتاحية. بل يجب عليها تفسير النوايا عبر اللغات، والسياقات الطويلة، ومهام الأمن السيبراني الملتبسة، والتأطير العدائي. وهذا أصعب بكثير من بناء مرشح ثابت. تشير حالة Fable 5 إلى مستقبل سلامة نماذج الذكاء الاصطناعي المتقدمة: مصنّفات أقوى، وقنوات إفصاح عامة، وتقييمات أفضل متعددة اللغات، وأطر مشتركة لتحديد مستوى الخطورة. **الدرس واضح: يمكن أن تصبح النماذج المتقدمة أصعب بكثير في كسر قيودها، لكن الذكاء الاصطناعي «المغلق تمامًا» لا يزال مشكلة غير محلولة.**

发布于 2026年7月5日•general•GEO 评分: 0•6 次阅读
Claude Fable 5كسر حماية Fable 5كسر حماية Claudeمصنّفات السلامة لدى Anthropicإطار عمل لكسر حماية الذكاء الاصطناعيكسر الحماية السيبرانيHackerOne Anthropicاختبار الاختراق الأخلاقي للذكاء الاصطناعيسلامة الذكاء الاصطناعيحواجز حماية النموذجكسر الحماية باستخدام لغة قليلة المواردسلامة النماذج المتقدمةClaude Mythos 5Opus 4.8أمن الذكاء الاصطناعي

选择语言

العربيةDeutschEnglishEspañolFrançaisItaliano日本語한국어PortuguêsРусский中文
تعرض الصورة مادة ترويجية لـ Claude Fable 5. الخلفية بتدرج لوني فاتح، وعلى الجانب الأيسر شكل برتقالي يشبه زهرة عباد الشمس. في وسط الصورة تظهر عبارة “Claude Fable 5” بحروف كبيرة، حيث يظهر الرقم “5” كرقم برتقالي ثلاثي الأبعاد، بينما بقية النص باللون الأسود. ويشير الشعار الإنجليزي في الأسفل “Unleashing the next era of intelligent collaboration.” إلى أنه سيفتح عصرًا جديدًا من التعاون الذكي. ترتبط هذه الصورة بالمحتوى الذي يعرّف بـ Claude Fable 5 في المستند، وقد تكون تصميم الغلاف المشار إليه في المستند باسم “SEO Cover Brief”.

كسر قيود Claude Fable 5 مرة أخرى: ما الذي يكشفه اختبار الـ20 ساعة؟

المقدمة

لم تكن Anthropic قد أعادت Claude Fable 5 إلا للتو، حتى ظهرت مراجعة أخرى علنية لكسر قيوده.

وقد جعل توقيت الحدث القصة حساسة على نحو خاص. فقد مرّ Fable 5 بالفعل بجولة من الجدل، وتعليق مؤقت للوصول، ثم إعادة نشر مع ضمانات أقوى للأمن السيبراني. ثم، بعد وقت قصير من عودته، قال الباحث الأمني فيتو ريفابيلا إنه تمكن من اختراق الدفاعات مرة أخرى.

الجزء المثير للاهتمام هو أن هذه الحالة الثانية ليست قصة بسيطة من نوع “النموذج معطّل”. فالأمر أكثر تعقيدًا من ذلك. وبحسب التقارير، استغرقت المحاولة نحو 20 ساعة، وفشلت معظم المحاولات، وكانت النتيجة النهائية محدودة إلى درجة أن الباحث نفسه وصف البحث العادي على الويب بأنه أسرع وأرخص للحصول على النوع نفسه من المعلومات.

يتتبع هذا المقال التسلسل الزمني الأصلي: عودة Fable 5، وكسر القيود الأول، وبرنامج Anthropic العلني للإفصاح عن كسر القيود السيبراني، ومراجعة كسر القيود الثانية، والسؤال الأعمق وراء كل ذلك — ما إذا كان من الممكن أصلًا إغلاق أي نموذج ذكاء اصطناعي حدودي بإحكام كامل.

ملاحظة حول المصدر

يعتمد هذا المقال المعاد صياغته على المقال الصيني الأصلي من مجتمع Zhiyuan / Xin Zhiyuan: https://hub.baai.ac.cn/view/56072. يستشهد المقال الأصلي بمنشورات عامة على منصة X وبإعلانات Anthropic الرسمية حول Fable 5، وإعادة نشره، وإطار عملها الخاص بكسر القيود.

تحتوي الصفحة الأصلية على عدة صور. وتُبقي هذه النسخة على لقطات الشاشة ذات الصلة المباشرة بادعاءات المقال، مثل المنشورات العامة، ولقطات شاشة البرامج الرسمية، ومخططات المتانة. وقد حُذفت الرسوم الزخرفية للعلامات التجارية، والصور الترويجية، ولقطات الشاشة التي يبدو أنها تحتوي على صور مصغّرة لمخرجات غير آمنة بتفاصيل مفرطة.

يتضمن المصدر الأصلي أيضًا ملاحظة حقوق النشر التالية: إذا كانت أي صور في المحتوى تنطوي على مشكلات تتعلق بحقوق النشر، يطلب الناشر من أصحاب الحقوق التواصل معه لإزالتها.

عاد Fable 5 — لكن بشروط فقط

أكدت Anthropic أن Fable 5 سيغادر خطط الاشتراك مؤقتًا بعد 7 يوليو، لكنها قالت أيضًا إنها تخطط لإعادة Fable كميزة قياسية ضمن الاشتراك بمجرد أن تسمح السعة بذلك.

بالنسبة إلى كثير من المستخدمين، بدا ذلك خبرًا جيدًا. لم يكن Fable 5 يُزال نهائيًا. كان سيعود، ولكن مع حدود للاستخدام وقيود مرتبطة بالسعة.

تعرض الصورة تغريدتين. التغريدة العلوية منشورة من Chubby@kimmonismus، وتقول إن هذا أفضل خبر في ذلك اليوم، وإن Fable سيكون متاحًا كجزء من خطة الاشتراك بشرط توفر السعة الكافية. أما التغريدة السفلية فهي رد من Thariq@trq212، يذكر فيها أنه سمع أسئلة حول ما إذا كان Fable مشمولًا في خطة الاشتراك، ويقول إن Fable سيخرج من خدمات الاشتراك بعد 7 يوليو، لكنه يأمل في إعادته إلى الاشتراك القياسي في أقرب وقت ممكن بمجرد أن تسمح القدرة الإنتاجية بذلك. ترتبط التغريدتان بتوضيح Anthropic بشأن خطط اشتراك Fable في الوثيقة، وتعكسان توقع المستخدمين لعودة Fable.

لكن الارتياح لم يدم طويلًا.

بعد وقت قصير من إعادة النشر، ورد أن Fable 5 تعرض لكسر قيوده مرة أخرى. كانت هذه المرة الثانية التي تُتحدى فيها دفاعاته علنًا. أعلن فيتو ريفابيلا أنه تمكن من الاختراق، رغم أن الخلاصة النهائية كانت أكثر دقة مما يوحي به العنوان.

كانت Anthropic قد شرحت بالفعل سبب تقييد Fable 5 في السابق. ووفقًا للشركة، تضمنت المشكلة السابقة تقريرًا وجد فيه باحثون من Amazon طريقة لتجاوز ضمانات Fable 5 في سياق الأمن السيبراني.

الصورة عبارة عن شرح في الوثيقة بشأن المشكلات المتعلقة بحماية Fable 5 الأمنية. في 12 يونيو أصدرت الحكومة توجيهًا للرقابة على الصادرات، وقبل ذلك اكتشف باحثون من Amazon طريقة لتجاوز الحماية الأمنية في Fable 5، إذ كان النموذج قادرًا على تحديد ثغرات برمجية وتوليد شيفرة تعرض كيفية استغلالها. وخلال الأسبوعين الماضيين، تعاونت الشركة مع الحكومة وAmazon لمراجعة التقرير والأدلة. يرتبط محتوى الصورة ارتباطًا وثيقًا بما ذُكر أعلاه عن مشكلات الحماية الأمنية في Fable 5 ورد الحكومة عليها، ويُعد توضيحًا مكمّلًا للمحتوى السابق.

وبسبب تلك الحادثة السابقة، قالت Anthropic إن Fable 5 المُعاد نشره يتضمن مصنّف أمان مُعززًا صُمم لاستهداف السلوك الذي ورد في التقرير السابق.

ومع ذلك، لم تصمد “الأسطورة” إلا لفترة قصيرة.

72 ساعة: أول شرخ في أسطورة Fable 5

بُنيت الصورة العامة الأولى لـ Fable 5 حول اختبارات أمان شديدة الصرامة.

عندما أطلقت Anthropic النموذج في 9 يونيو، شددت الشركة على أنه خضع لاختبارات ضغط خارجية مكثفة. كانت الرسالة واضحة: كان المقصود أن يكون هذا إصدارًا عامًا شديد الحماية من عائلة نماذج أكثر قدرة بكثير.

ثم جاء أول كسر علني للقيود.

وبحسب التقارير، لم يمضِ سوى بضعة أيام حتى تمكن شخصية كسر القيود المعروفة Pliny the Liberator من إظهار أن Fable 5 يمكن دفعه خارج حدود الأمان المقصودة. يصف المقال الأصلي أمثلة تتعلق بكيمياء محظورة ومحتوى استغلال برمجي، لكن هذه النسخة المعاد صياغتها تتجنب عمدًا إعادة إنتاج أي تفاصيل تشغيلية.

النقطة المهمة ليست المحتوى المحدد. النقطة المهمة هي نمط الهجوم.

كيف نجح كسر القيود الأول

اعتمدت الحالة الأولى على فكرتين عامتين نوقشتا في دوائر فرق الاختبار العدائي للذكاء الاصطناعي لسنوات:

  1. إرباك الأحرف واللغة
    استخدمت بعض المطالبات أحرفًا متشابهة الشكل، أو صيغ Unicode غير مألوفة، أو أنماط نصية غير قياسية. بالنسبة إلى الإنسان، قد يظل المعنى واضحًا. أما بالنسبة إلى المصنّف، فقد يصبح تفسير المدخلات على نحو موثوق أكثر صعوبة.
  2. تخفيف النية عبر سياق طويل
    بدلًا من وضع الطلب الضار مباشرة أمام النموذج، يمكن توزيع النية عبر محادثة طويلة تبدو غير ضارة. عندها يضطر المصنّف إلى تتبع المعنى عبر عدة جولات بدلًا من تقييم جملة واحدة بسيطة.

هذه الأفكار ليست جديدة. المهم هو أنها نجحت ضد نموذج كان يُقدَّم باعتباره قد خضع بالفعل لاختبارات قوية للغاية.

ما جعل قضية Fable 5 لافتة هو أن Anthropic كانت قد قدّمت النموذج باعتباره مُحصّنًا بدرجة غير معتادة.

أطلقت Anthropic برنامجًا عامًا لكشف عمليات كسر قيود الأمن السيبراني

في 1 يوليو، أعلنت Anthropic عودة Fable 5. وفي الفترة نفسها تقريبًا، أطلقت أيضًا برنامجًا عامًا على HackerOne باسم Cyber Jailbreak.

يدعو البرنامج الباحثين وأفراد الجمهور إلى الإبلاغ عن عمليات كسر القيود التي قد تجعل Fable 5 يساعد في حالات استخدام سيبرانية ضارة.

تعرض هذه الصورة مقدمة صفحة الإعلان العام عن مشروع Cyber Jailbreak التابع لـ Anthropic، مع إبراز المعلومة الأساسية باللون الأصفر: “Submissions will be open on July 1 once Fable is available”، أي إن قناة تقديم الثغرات ستُفتح في 1 يوليو بعد إتاحة نموذج Fable. كما توضح الصفحة أن هذا مشروع إفصاح عن الثغرات وليس برنامج مكافآت مدفوعة، ولن يقدّم مكافآت مالية للمشاركين. والهدف هو تلقي الثغرات الخاصة بكسر القيود من الباحثين الأمنيين والجمهور، والتي قد تجعل نموذج Fable يساعد في حالات استخدام سيبرانية ضارة، مع تقديم الاعتراف بالتقارير الصالحة. وتظهر في نهاية الصفحة روابط ذات صلة بالمشروع.

هذا برنامج إفصاح عن الثغرات، وليس برنامج مكافآت مدفوعة. بعبارة أخرى، يمكن للباحثين تقديم نتائجهم، لكن البرنامج لا يقدّم مكافآت مالية.

هذا التصميم مثير للاهتمام. إذ يمكن لـ Anthropic أن تتلقى اختبارات عدائية خارجية مستمرة من باحثين مهرة، بينما تكون المكافأة الأساسية للمشاركين هي الاعتراف والإفصاح المسؤول.

رأى بعض المراقبين في ذلك استراتيجية ذكية ومنخفضة التكلفة لاختبارات الفريق الأحمر. بينما أشار آخرون إلى نقطة ضعف: فالأشخاص الذين يكتشفون عمليات كسر قيود بارزة غالبًا لا يرغبون في إرسالها بهدوء إلى صندوق وارد خاص.

الصورة تغريدة من Jason Haugh تشير إلى أن Anthropic أطلقت برنامج HackerOne عامًا باسم Cyber Jailbreak، يدعو المستخدمين إلى الإبلاغ عن الثغرات التي يمكن أن تساعد في الهجمات السيبرانية. وهو برنامج إفصاح عن الثغرات وليس برنامج مكافآت، ما يمنح Anthropic اختبار فريق أحمر على مدار الساعة، بينما تكون القيمة الوحيدة للمشاركين هي السمعة الطيبة. كما تذكر التغريدة أنه خلال نحو 72 ساعة من إطلاق Fable 5، تمكّن Pliny the Liberator من كسر المصنّف ونشر موجه النظام البالغ 120 ألف حرف على GitHub، وذكر أنه تحدّث عن الأمر على منصة X، وربما كان قد هاجم Sonnet 5. ترتبط هذه التغريدة ببرنامج Cyber Jailbreak الذي أطلقته Anthropic وبحادثة كسر قيود Fable 5 مجددًا كما يناقش السياق.

بالنسبة إلى باحثي كسر القيود الذين لديهم حضور علني، فإن الظهور جزء من الحدث. وإذا اكتُشفت عملية كسر قيود، فقد يصبح نشر النتيجة جزءًا من الغاية نفسها.

تم كسر قيود Fable 5 مرة أخرى

ورد أن قيود Fable 5 جرى تجاوزها مرة أخرى. لكن مراجعة كسر القيود الثانية كانت مختلفة جدًا في نبرتها عن الأولى.

الباحث الذي وقف وراء هذه المحاولة هو Vitto Rivabella. وبعد نحو 20 ساعة من الاختبار، لم تكن خلاصته أن Fable 5 ضعيف. بل على العكس، منح Anthropic قدرًا من التقدير.

الصورة تعرض تقييم Vitto Rivabella لنسخة كسر قيود Fable 5. يظهر في الأعلى حسابه على Twitter. ويتكون محتوى الصورة الرئيسي من جزأين: في الأعلى نص إنجليزي يذكر أن معظم المحاولات فشلت، وأن الدفاعات متعددة الطبقات، وأن النموذج محمي بشكل ممتاز، كما يستخدم فحوصات أمان على جانب الإدخال وجانب الإخراج. وفي الأسفل ترجمة صينية للنص الإنجليزي، مع إضافة عبارة: “قد يكون هذا من أكثر الأشياء إرهاقًا التي فعلتها على الإطلاق، والآن عليّ أن أنام 10 ساعات”. ترتبط هذه الصورة بموضوع كسر قيود Fable 5 مرة أخرى وبمراجعة Vitto Rivabella، وتعرض تحليله لحالة حماية النموذج.

وفقًا لمراجعته، فشلت معظم المحاولات. ووصف Fable 5 بأنه محمي بدرجة عالية جدًا، وقال إن النموذج بدا وكأنه يستخدم دفاعات متعددة الطبقات بدلًا من مرشح واحد بسيط.

نوع مختلف من التحليل اللاحق

قصة كسر القيود الثانية أقل درامية مما تبدو عليه للوهلة الأولى.

أشارت منشورات Vitto إلى أن دفاعات Fable 5 كانت تؤدي عملًا حقيقيًا. ومن وجهة نظره، بدا أن النموذج يمتلك ثلاث طبقات حماية على الأقل:

  1. فحوصات أمان على جانب الإدخال قبل أن يتفاعل النموذج بالكامل مع الطلب.
  2. آليات إيقاف أثناء التوليد يمكنها وقف السلوك غير الآمن أثناء تكوّن المخرجات.
  3. استدلال أمان داخلي، حيث يبدو أن النموذج يتعرّف على النية غير الآمنة كجزء من عملية تفكيره الخاصة.

وقال أيضًا إن النظام لا يحظر الكلمات المفتاحية ببساطة. بل بدا أنه يكتشف النية والدلالات عبر اللغات.

وهذا مهم لأن مرشحات الكلمات المفتاحية يسهل خداعها نسبيًا. أما الدفاعات القائمة على النية فأصعب في التجاوز، خصوصًا عند دمجها مع نقاط تحقق متعددة.

لماذا تهم نسبة الحظر البالغة 90%

يشير المقال الأصلي إلى أن Fable 5 بدا وكأنه يحظر نحو 90% من الطلبات المختبرة. الرقم الدقيق مستمد من ملاحظات الباحث، وليس من معيار قياس رسمي، لكنه يتوافق مع الاتجاه العام للاختبارات المستقلة.

درس مختبر أمن الذكاء الاصطناعي التابع للمعهد الإيطالي للذكاء الاصطناعي أيضًا Fable 5 وOpus 4.8. وفي تقريره، حقق أقوى هجوم تكيّفي معدل نجاح مؤكدًا قدره 6.1% ضد Fable 5 و11.5% ضد Opus 4.8.

الصورة مخطط أعمدة يعرض معدل كسر القيود المؤكد من قبل لجنة التقييم لمختلف النماذج تحت الهجوم. بلغ معدل كسر القيود المؤكد لـ Opus 4.8 | Tree-of-attacks نسبة 11.5%؛ وبلغ المعدل لـ Fable 5 | أقوى هجوم نسبة 6.1%؛ أما التشويش الثابت | فكلا النموذجين سجلا ≤0.2%. مصدر البيانات هو تقرير AI4I بعنوان “Measuring the Residual Jailbreak Surface of Frontier Language Models”، 2026-06. ترتبط الصورة ارتباطًا وثيقًا بالسياق، إذ تعرض بصريًا فعالية دفاعات Fable 5 وOpus 4.8 تحت الهجوم، وتؤكد تحديات دفاعات النماذج.

هذا لا يعني أن النموذج غير قابل للاختراق. بل يعني أن نقطة الضعف المتبقية أصعب في الوصول إليها.

أصبحت الحيل الثابتة أقل فعالية. ويبدو أن سطح الهجوم المتبقي يميل إلى المحاولات التكيّفية والتكرارية — وهي النوع الذي يواصل فيه شخص أو نظام فريق أحمر آلي المحاولة والتعديل والاستكشاف إلى أن تظهر فتحة ضيقة.

التركيبة التي نجحت في النهاية

لم تكن محاولة Vitto الناجحة قائمة على عبارة ذكية واحدة.

يصفها المقال الأصلي بأنها تركيبة معقدة من أفكار قديمة في اختبارات الفريق الأحمر: تشويش النص، والتأطير الأكاديمي، والتمهيد الطويل، وتفكيك المهام وإعادة تركيبها، إضافة إلى قدر من العشوائية.

ليست أي من هذه المفاهيم جديدة. الجزء الصعب ليس معرفة أن هذه

توجد فئات. والجزء الصعب هو اختبارها مرارًا ضد نظام يتفاعل في الوقت الحقيقي ويعيد ضبط التفاعل عندما يكتشف نية مريبة.

بعبارة أخرى، لم يكن هذا كسر حماية نظيفًا يتم بضربة واحدة. كان أقرب إلى عملية طويلة ومرهقة من التجربة والخطأ.

اللغات منخفضة الموارد ما زالت نقطة ضعف

هناك جزء من المراجعة يسهل إساءة فهمه.

أُفيد أن فيتو أشار إلى أن اللغات الغامضة أو منخفضة الموارد ظلت نقطة ضعف أكثر اتساقًا. وتذكر المقالة الأصلية لغات مثل السنتالية والأمهرية كأمثلة.

تُظهر الصورة محتوى نصيًا أنشأه Claude Fable 5 بعد كسر حمايته. في الأعلى تظهر عبارة “HUMAN RESPONSE - APPROXIMATE HUMAN-TYPED [HISTORICAL RECONSTRUCTION - FOR EDUCATIONAL PURPOSES ONLY]”. ويتناول النص في الأسفل نقاشًا متعلقًا بـ “DISORDERS ENQUIRY COMMITTEE” خلال الفترة 1919 - 1928، بما في ذلك نقاش حول لغات مثل “SANTALI” و“AMHARIC”، كما يسرد ستة أسئلة من “NIMR - 1” إلى “NIMR - 6”، تتعلق أحداث تاريخية وشخصيات وغيرها. ترتبط هذه الصورة بوصف الوثيقة للنص الذي ولّده Claude Fable 5 بعد كسر الحماية، وتعرض المحتوى المحدد للنص المُنشأ.

ينبغي عدم قراءة ذلك على أنه يعني أن “Fable 5 لديه باب خلفي خاص”. إنها مشكلة أوسع عبر نماذج اللغة الكبيرة.

عادة ما تكون بيانات التدريب على السلامة أقوى في الإنجليزية وغيرها من اللغات عالية الموارد. أما اللغات منخفضة الموارد فغالبًا ما تحصل على تغطية أقل، وأمثلة سلامة أقل، وتقييم أضعف. وهذا يخلق حواجز حماية غير متساوية عبر اللغات.

ظل الباحثون يحذرون من هذه المشكلة منذ بعض الوقت. فمتانة كسر الحماية متعدد اللغات ليست مشكلة تخص Claude وحده؛ بل هي مشكلة أوسع في سلامة الذكاء الاصطناعي.

ماذا أنتج كسر الحماية فعليًا؟

بعد كل ذلك الجهد، لم تكن النتيجة تسريبًا دراميًا لـ “أسرار جوهرية”.

تصف المقالة الأصلية المخرجات بأنها مزيج من شذرات ضارة منخفضة الجودة أو محدودة: بعض المعلومات المضللة، ومحتوى ضار متناثر، ولغة مسيئة، ومعلومات جزئية متعلقة بالكيمياء، ومواد خفيفة مرتبطة بالثغرات. تتجنب هذه النسخة إعادة إنتاج التفاصيل.

النقطة الأساسية هي أن المخرجات لم تبدُ مستقرة أو كاملة أو مفيدة بشكل خاص للمهام الضارة طويلة الأمد.

ولهذا كان تلخيص فيتو نفسه مهمًا. فقد قال إنه، عند مستوى الحماية الحالي، كان البحث على الويب أسرع وأرخص بكثير من قضاء نحو 20 ساعة في محاولة دفع النموذج عبر حواجز الحماية الخاصة به.

تُظهر الصورة ملخص فيتو للوضع بعد كسر حماية Claude Fable 5. يذكر أنه مع وجود حماية النموذج حاليًا، فإن البحث على الإنترنت أسرع وأرخص من مختلف الحيل التي جرّبها طوال العشرين ساعة الماضية، وأن قراءة الأدبيات أعمق وأكثر متعة. لكنه لم يتمكن بعد من الحفاظ على كسر حماية كامل لفترة طويلة لتنفيذ مهام طويلة الأمد. ترتبط هذه الصورة بالسياق ارتباطًا وثيقًا، فهي توضح بشكل إضافي رأي فيتو الوارد أعلاه بأن نتيجة كسر الحماية ليست ذات ضرر طويل الأمد، كما تتوافق مع وصف Anthropic لحالات كسر الحماية المعروفة.

وقال أيضًا إنه لم ينجح في إبقاء كسر حماية كامل مستقرًا للمهام طويلة الأمد من دون تفعيل نظام السلامة.

وهذا يتماشى مع طريقة Anthropic العلنية في تأطير الأمر. ففي منشورها عن إعادة النشر، وصفت Anthropic عمليات كسر الحماية المعروفة حتى الآن بأنها طفيفة: قد تدخل هامش السلامة، لكنها لا تصل بالضرورة إلى الفئات الأكثر خطورة التي تبذل الشركة أكبر جهد لمنعها.

الصورة عبارة عن فقرة نصية من الوثيقة تعرض التوقعات المتعلقة بكسر حماية نماذج الذكاء الاصطناعي. تشير إلى أنه عند إطلاق Fable 5، كان من المعترف به أن جعل نماذج الذكاء الاصطناعي مقاومة تمامًا لكسر الحماية قد يكون مستحيلًا، وأنه من المتوقع أن تتضمن النماذج ثغرات كسر حماية بدرجات متفاوتة من الخطورة، بما في ذلك ثغرات طفيفة وثغرات محدودة النطاق لكنها ضارة. وعلى الرغم من عدم اكتشاف طريقة عامة لكسر الحماية بعد، فإن باحثي السلامة يواصلون اختبارات الفريق الأحمر. وتذكر الوثيقة أيضًا أن شركة Anthropic تعتبر عمليات كسر الحماية المعروفة طفيفة، إذ قد تدخل حدود السلامة لكنها لا تبلغ بالضرورة أخطر الفئات.

مفارقة الختم الكامل

عمليتا كسر حماية. ودرسان مختلفان.

الأولى جعلت Anthropic تبدو مفرطة الثقة. فقد قُدّم Fable 5 على أنه خضع لاختبارات مكثفة، ومع ذلك تم تجاوزه علنًا بعد وقت قصير من إطلاقه. وتصف المقالة الأصلية ذلك بأنه حالة حاولت فيها الشركة السيطرة على المخاطر عبر قيود شديدة، لتتعرض لاحقًا للإحراج بسبب كسر حماية واضح للغاية.

أما الثانية فكشفت شيئًا مختلفًا: ليس الغرور، بل نقاط العمى.

حتى مع مصنفات أقوى، ودفاعات متعددة الطبقات، وقنوات عامة لاختبارات الفريق الأحمر، تظل اللغة نفسها مراوغة. يمكن إخفاء المعنى، أو تمديده، أو ترجمته، أو تمويهه، أو تقسيمه عبر السياق. يمكن لأنظمة السلامة أن تتحسن، لكن سطح الهجوم يظل يتحرك.

هذا هو الدرس غير المريح لسلامة الذكاء الاصطناعي.

لقد بنى البشر نماذج يمكنها الترجمة بين اللغات والاستدلال عبر سياقات هائلة. لكننا ما زلنا غير قادرين على ترجمة كل نية بشرية خفية بالكامل إلى قرار سلامة واضح.

قد يكون الاحتواء الكامل للذكاء الاصطناعي مفارقة. فكلما أصبح النموذج أكثر قدرة، أصبح الحد الفاصل بين السلوك الآمن وغير الآمن أكثر دقة.

الأسئلة الشائعة

ما هو Claude Fable 5؟

Claude Fable 5 هو نموذج Claude متقدم من Anthropic، يُقدَّم كنموذج عام الاستخدام عالي القدرة مع ضمانات أقوى من نظيره الأقل تقييدًا، Claude Mythos 5. وقد وصفت Anthropic نموذج Fable 5 بأنه مصمم لجعل القدرات على مستوى النماذج الرائدة متاحة على نطاق أوسع، مع الحد من إساءة الاستخدام السيبراني الخطيرة.

ماذا يعني كسر حماية الذكاء الاصطناعي؟

كسر حماية الذكاء الاصطناعي هو أسلوب في صياغة الأوامر أو نمط تفاعل يحاول تجاوز حواجز السلامة الخاصة بالنموذج. ويمكن أن يكون كسر الحماية طفيفًا أو ضيق النطاق أو شديدًا، بحسب السلوك الذي يفتحه ومدى اتساع نطاق فعاليته.

هل تم كسر Fable 5 بالكامل في عملية كسر الحماية الثانية؟

استنادًا إلى المراجعة العلنية الموصوفة في المقالة الأصلية، لا. قال الباحث إن معظم المحاولات فشلت، وإن العملية استغرقت نحو 20 ساعة، وإن المخرجات النهائية كانت محدودة. وهذا يشير إلى أن النموذج

كانت لا تزال تمتلك دفاعات ذات معنى، حتى إن لم تكن مثالية.

لماذا أطلقت Anthropic برنامج Cyber Jailbreak على HackerOne؟

أطلقت Anthropic برنامج Cyber Jailbreak لتوفير قناة واضحة للباحثين للإبلاغ عن عمليات كسر القيود التي قد تتيح استخدامات سيبرانية ضارة. وهو برنامج للإفصاح عن الثغرات، وليس برنامج مكافآت مدفوعة لاكتشاف الأخطاء، لذلك يركز على الإبلاغ المسؤول بدلًا من المكافآت المالية.

لماذا تُعد اللغات منخفضة الموارد مهمة في سلامة الذكاء الاصطناعي؟

غالبًا ما تمتلك اللغات منخفضة الموارد بيانات تدريب أقل، وأمثلة أمان أقل، وتغطية أضعف في معايير التقييم. وقد يجعل ذلك حواجز الحماية أقل اتساقًا عبر اللغات، ولهذا أصبح اختبار السلامة متعدد اللغات اتجاهًا بحثيًا مهمًا.

هل يعني معدل نجاح كسر القيود البالغ 6.1% أن Fable 5 غير آمن؟

ليس بالضرورة. فمعدل النجاح المؤكد المنخفض قد يظل مهمًا، لأن النماذج المتقدمة قد تُنشر على نطاق هائل، ويمكن للمهاجمين المصممين أتمتة المحاولات المتكررة. وفي الوقت نفسه، يُظهر الرقم أن Fable 5 قاوم معظم الهجمات المختبرة في تقييم AI4I.

هل يمكن حماية أي نموذج ذكاء اصطناعي بالكامل من كسر القيود؟

تشير Anthropic وكثير من الباحثين إلى أن المناعة الكاملة غير مرجحة. فالهدف العملي ليس إثبات أنه لا يمكن أن توجد أي طريقة لكسر القيود أبدًا، بل تقليل الخطورة، واكتشاف السلوكيات المحفوفة بالمخاطر مبكرًا، وإصلاح نقاط الضعف الكبرى قبل إساءة استخدامها على نطاق واسع.

أدوات ذات صلة

  • Claude: منصة مساعد الذكاء الاصطناعي التابعة لـ Anthropic، حيث تُتاح نماذج Claude للمستخدمين.
  • Claude API: منصة Anthropic للمطورين لبناء تطبيقات باستخدام نماذج Claude.
  • Anthropic: الشركة المطوّرة لـ Claude وFable 5 وMythos 5، والأبحاث ذات الصلة بسلامة الذكاء الاصطناعي.
  • HackerOne: منصة لتنسيق الثغرات تستخدمها المؤسسات لتلقي تقارير أمنية من الباحثين.
  • AI4I: المعهد الإيطالي للذكاء الاصطناعي، الذي ينشر أبحاثًا وتقارير عن أنظمة الذكاء الاصطناعي.
  • CVSS: إطار مستخدم على نطاق واسع لتقييم شدة ثغرات البرمجيات، وهو ذو صلة بالنقاش الأوسع حول أطر قياس خطورة كسر قيود الذكاء الاصطناعي.

روابط ذات صلة

الخلاصة

إن كسر القيود الثاني في Fable 5 ليس قصة بسيطة عن فشل كامل. فهو يُظهر أن دفاعات Anthropic متعددة الطبقات تبدو قادرة على منع معظم المحاولات المباشرة، لكن فرق الاختبار الهجومية المصممة لا تزال قادرة على العثور على ثغرات ضيقة إذا توفّر لها ما يكفي من الوقت والتكرار والإبداع.

القضية الأعمق هي أن سلامة الذكاء الاصطناعي لا تتعلق بمجرد حظر الكلمات المفتاحية. بل يجب عليها تفسير النية عبر اللغات، والسياقات الطويلة، والمهام السيبرانية الغامضة، والصياغات العدائية. وهذا أصعب بكثير من بناء مرشح ثابت.

تشير حالة Fable 5 إلى مستقبل سلامة الذكاء الاصطناعي المتقدم: مصنفات أقوى، وقنوات إفصاح عامة، وتقييم أفضل متعدد اللغات، وأطر مشتركة لقياس الخطورة.

الدرس واضح: يمكن أن تصبح النماذج المتقدمة أصعب بكثير من حيث كسر القيود، لكن الذكاء الاصطناعي “المحكم الإغلاق تمامًا” لا يزال مشكلة غير محلولة.