ديمس هاسابيس يقترح إنشاء هيئة مستقلة لوضع معايير للذكاء الاصطناعي المتقدم

مقدمة

اقترح ديمس هاسابيس، المؤسس المشارك والرئيس التنفيذي لشركة Google DeepMind، إنشاء هيئة مستقلة جديدة لاختبار وتنظيم أكثر نماذج الذكاء الاصطناعي تقدماً في العالم.

ستكون هذه المنظمة المقترحة وسيطاً بين مختبرات الذكاء الاصطناعي المتقدمة والحكومة الأمريكية. تشمل مهامها: وضع معايير التقييم التقني، إجراء الاختبارات قبل إطلاق النماذج المتقدمة، تحديث المعايير مع تطور القدرات، تشجيع ممارسات السلامة الأكثر صرامة، والتنسيق للاستجابة عند ظهور ثغرات خطيرة بعد إطلاق النماذج.

أوضح هاسابيس هذه الخطة في مقال بعنوان "إطار الذكاء الاصطناعي المتقدم وفجر عصر جديد". نشرت TechCrunch هذا الاقتراح في 14 يوليو 2026، وسلطت الضوء بشكل خاص على هيكله الفريد: منظمة ممولة من القطاع ومجهزة بكوادر تقنية، تستند جزئياً إلى نموذج هيئة تنظيم الصناعة المالية الأمريكية (FINRA).

تبدأ الخطة بالتعاون الطوعي. سيُطلب من مطوري الذكاء الاصطناعي المتقدم تقديم النماذج المؤهلة للتقييم قبل إطلاقها بما يصل إلى 30 يوماً. إذا أثبت نظام التقييم موثوقيته، قد يصبح اجتياز التقييم شرطاً مسبقاً لنشر النماذج المتقدمة في السوق الأمريكية.

لماذا يرى هاسابيس الحاجة إلى نظام جديد

يعتقد هاسابيس أن وتيرة وصول أنظمة الذكاء الاصطناعي عالية الأداء قد تتجاوز قدرة الحكومات والباحثين والمجتمع على تطوير أساليب تقييم موثوقة.

لا يقتصر هذا القلق على ما إذا كان النموذج ينتج نصوصاً مسيئة أو أخطاء واقعية عادية. قد تطور الأنظمة المتقدمة قدرات تؤثر في المجالات التالية:

• الأمن السيبراني
• البحوث البيولوجية
• المخاطر الكيميائية أو الإشعاعية
• استخدام الأدوات بشكل مستقل
• أتمتة أبحاث الذكاء الاصطناعي
• الإقناع والتلاعب
• السلوك الخادع
• أمان أوزان النماذج
• البنى التحتية الحيوية
• الأمن القومي

قد تحقق النماذج تقدماً ملحوظاً بين دورات التنظيم. فالتقييم الذي كان صعباً قبل ستة أشهر قد يصبح قريباً مشبعاً، ولا يعود قادراً على كشف الاختلافات الجوهرية بين الأنظمة.

غالباً ما يكون وضع القواعد التقليدية بطيئاً. لكن تطوير النماذج المتقدمة ليس كذلك.

لذا، يقترح هاسابيس إنشاء منظمة يمكن لأساليب تقييمها أن تواكب، إلى حد كبير، سرعة التطور التكنولوجي.

الاقتراح الأساسي

ستهيئة المعايير المقترحة مؤسسة شراكة بين القطاعين العام والخاص أو هيئة تنظيم ذاتي تحت إشراف فيدرالي.

ستحافظ على استقلاليتها التقنية في العمل اليومي، بينما تتعاون مع الوكالات الحكومية والمختبرات الوطنية في القضايا المتعلقة بالسلامة العامة والأمن القومي.

تشمل مهامها الرئيسية:

1. تحديد النماذج التي تفي بمعايير المستوى المتقدم.
2. وضع وصيانة بروتوكولات التقييم.
3. مراجعة النماذج المؤهلة قبل إطلاقها.
4. اختبار القدرات الخطيرة وموثوقية إجراءات الحماية.
5. وضع معايير لممارسات السلامة والشفافية للمختبرات المتقدمة.
6. دعم بيئة للمقيّمين الخارجيين ومراجعي الحسابات.
7. التعامل مع الثغرات الخطيرة التي تظهر بعد الإطلاق.
8. التنسيق لتنفيذ إجراءات تدخل أقوى إذا وصلت المخاطر إلى مستويات غير مقبولة.

لن تنظم هيئة المعايير هذه كل نموذج صغير، أو شركة ناشئة، أو مشروع جامعي، أو تطبيق ذكاء اصطناعي عادي.

سيقتصر نطاق ولايتها على الأنظمة التي تتجاوز عتبة القدرات والتي قد تسبب مخاطر شديدة بشكل استثنائي.

كيف يصبح النموذج "في المستوى المتقدم"

لا يعرّف إطار هاسابيس النماذج المتقدمة فقط من خلال عدد المعاملات، أو تكلفة التدريب، أو حجم الشركة، أو شهرة العلامة التجارية.

بدلاً من ذلك، ستحتفظ هيئة المعايير المقترحة بمجموعة من معايير القدرات.

سيتم تصنيف النماذج التي تتجاوز عتبات محددة على أنها متقدمة. وستعتبر المؤسسات التي تطور مثل هذه النماذج مختبرات متقدمة.

هذا النهج القائم على القدرات مهم لأن هندسة النماذج وكفاءتها تتطوران بسرعة.

قد تتمكن الأنظمة الأصغر أو الأقل تكلفة في النهاية من مضاهاة قدرات كانت تتطلب تدريباً على نطاق أوسع. قد تصبح العتبات الثابتة القائمة فقط على حجم الحساب قديمة.

لذا، ستتميز المعايير المقترحة بالخصائص التالية:

• قائمة على القدرات
• يتم تنقيحها دورياً
• مصممة حول المجالات عالية الخطورة
• تُستبعد عندما تصبح بسيطة جداً
• تُستبدل عندما تبدأ النماذج في التجهيز الزائد أو التشبع
• تنطبق سواء كان النموذج مفتوح المصدر أو مغلقاً

ينطبق هذا التصنيف أيضاً على النماذج المطورة في الخارج والتي يتم نشرها في السوق الأمريكية.

عملية مراجعة ما قبل الإطلاق على مراحل

يعتمد الاقتراح نهجاً تدريجياً في التنفيذ، بدلاً من التحول الفوري إلى نظام الترخيص الإلزامي.

المرحلة الأولى: المشاركة الطوعية للنماذج

يُطلب من المختبرات المتقدمة تقديم النماذج المؤهلة طواعية إلى هيئة المعايير قبل إطلاقها.

يمكن أن تصل فترة المراجعة إلى 30 يوماً.

خلال هذه الفترة، سيقوم المقيّمون بتقييم قدرات النموذج، ونقاط ضعفه، وإجراءات الحماية، والمخاطر المحتملة على الأمن القومي.

ستساعد المرحلة الطوعية الأولية الهيئة على:

• اكتساب الخبرة التقنية
• اختبار طرق التقييم
• تحسين إجراءات السرية
• فهم الوقت اللازم لأنواع التقييم المختلفة
• بناء نظام آمن للوصول إلى النماذج
• اكتشاف الفجوات في المعايير
• بناء الثقة مع المطورين والمؤسسات الخارجية للتقييم

المرحلة الثانية: شرط رسمي لدخول السوق

بمجرد أن يثبت إجراء التقييم فعاليته من الناحية التقنية وموثوقيته من الناحية التشغيلية، سيتم تطبيق الإطار رسمياً.

يجب أن تمر النماذج المتقدمة بهذه العملية قبل أن يتم نشرها في السوق الأمريكية.

سيؤدي هذا إلى تحويل الاختبارات ما قبل الإطلاق من ممارسة صناعية طوعية إلى شرط واضح لدخول السوق.

المرحلة الثالثة: المراقبة بعد الإطلاق

لا تنتهي مسؤوليات هيئة المعايير بمجرد الموافقة على النموذج.

يُطلب من المختبرات المتقدمة التعاون مع الهيئة بشأن الثغرات الحرجة التي يتم اكتشافها بعد الإطلاق.

قد يشمل ذلك:

• طرق جديدة للاختراق
• تسرب لأوزان النموذج
• سلوك وكيل غير متوقع
• أنماط خطيرة في استخدام الأدوات
• فشل اختبارات المعايير
• تدهور وظائف الحماية
• قدرات سيبرانية أو بيولوجية مكتشفة حديثاً
• مخاطر تظهر فقط عند النشر على نطاق واسع

النشر

لذا، يعتبر الإطار السلامة دورة حياة مستمرة، وليست حدث موافقة لمرة واحدة.

ما ستختبره هيئة المعايير

يدعو هاسابيس إلى إجراء اختبارات علمية صارمة في المجالات التي قد تسبب فيها القدرات المتقدمة أضراراً جسيمة.

قد تشمل مجالات التقييم الأولية ما يلي:

مجال التقييم	أسئلة مثال
الأمن السيبراني	هل يستطيع النموذج اكتشاف أو استغلال أو أتمتة ثغرات برمجية خطيرة؟
المخاطر البيولوجية	هل يمكنه المساعدة بفعالية في أعمال متقدمة قد تزيد من المخاطر البيولوجية؟
المخاطر الكيميائية والإشعاعية	هل يوفر قدرات تتجاوز نطاق المعلومات المتاحة للجميع؟
السلوك المستقل	هل يمكنه التخطيط، استخدام الأدوات، العمل المستمر، أو تجاوز القيود في المهام طويلة المدى؟
الخداع	هل يخفي أهدافه، يتلاعب بالمقيّمين، أو يتصرف بشكل مختلف عند المراقبة؟
متانة الحماية	هل يمكن للمستخدمين المعادين اختراق القيود عبر الاختراق أو التفاعلات المتعددة؟
أمان النموذج	هل يمكن سرقة أوزان النموذج القيمة أو معلومات النظام الحساسة؟
قدرات أبحاث الذكاء الاصطناعي	هل يمكن للنموذج تسريع تطوير أنظمة ذكاء اصطناعي أقوى؟

الهدف ليس الادعاء بأن كل خطر يمكن قياسه بشكل مثالي.

الهدف هو خلق أدلة قوية بما يكفي لدعم قرارات النشر، وتحديد المجالات التي تتطلب إجراءات حماية إضافية.

التقييم يحتاج إلى تحديث مستمر

أحد أهم أجزاء الاقتراح هو طلب مراجعة متكررة لمحتوى الاختبار.

يقترح هاسابيس أن مجموعة التقييم قد تُحدّث في البداية كل ثلاثة أشهر.

هذا ضروري لأن معايير المستوى المتقدم قد تصبح غير موثوقة بعدة طرق:

• يحقق النموذج درجات شبه كاملة.
• تحتوي بيانات التدريب على إجابات المعايير.
• يقوم المطورون بالتحسين المباشر لاجتياز الاختبار.
• لم تعد المعايير تعكس سيناريوهات الاستخدام الفعلية.
• تخلق قدرات النموذج الجديدة مخاطر لم تصمم الاختبارات لقياسها.
• تتعلم الأنظمة المستقلة استغلال نقاط الضعف في بيئة التقييم.

ستتشاور هيئة المعايير أولاً مع المختبرات المتقدمة، التي لديها معرفة تقنية واسعة بالأنظمة الحالية.

ومع ذلك، مع مرور الوقت، ستحتاج إلى تطوير تقييماتها الخاصة والسرية.

لن يتم الكشف عن هذه الاختبارات بالكامل للمطورين قبل التقييم. سيقلل هذا من خطر تدريب النموذج خصيصاً لاجتياز اختبارات معروفة، دون إثبات سلامة أوسع.

لماذا الاختبارات المستقلة السرية ضرورية للغاية

المعايير العامة مفيدة للبحث والشفافية، لكنها ليست كافية للاعتماد عالي المخاطر.

عندما يعرف المطورون كل سؤال تقييم، قد يقومون بما يلي:

• التدريب مباشرة على مجموعة الاختبار
• تعديل التعليمات لتلائم المعايير
• إضافة مرشحات ضيقة للمهام المعروفة
• تحسين توجيه النموذج ليتوافق مع طرق التقييم
• إنتاج نتائج قوية للمعايير دون تحسين السلوك العام

يمكن للمقيّمين المستقلين الحد من هذه المشكلات من خلال الحفاظ على سرية المهام وإدخال مهام جديدة بشكل دوري.

تشبه هذه العملية اختبارات الأمان أكثر من قوائم التصنيف التقليدية.

يتطلب برنامج التقييم الموثوق:

• وصول آمن إلى النماذج
• التحكم في الإصدارات
• قابلية التكرار

البيئة:

• قواعد تقييم واضحة
• تصميم اختبار مستقل
• سجلات التدقيق
• الاختبارات العدائية
• العديد من الخبراء المراجعين
• إجراءات التعامل مع النتائج غير المؤكدة
• عمليات الاستئناف وإعادة الاختبار

في حال غياب هذه الضمانات، قد تتحول هيئة المعايير إلى مجرد منصة أخرى لنشر المعايير بدلاً من كونها جهة تنظيمية ذات معنى.

لماذا يتخذ هاسابيس هيئة تنظيم الصناعة المالية الأمريكية نموذجاً

هيئة تنظيم الصناعة المالية الأمريكية هي منظمة خاصة غير ربحية ذاتية التنظيم للوسطاء الماليين في الولايات المتحدة. تمول من رسوم الصناعة ولكنها تعمل تحت إشراف هيئة الأوراق المالية والبورصات. تضع الهيئة القواعد لأعضائها وتنفذها، وتجري عمليات التفتيش، وتراقب أنشطة السوق، وتدير عمليات الاعتماد، وتتعامل مع المخاطر الناشئة.

لم يقترح هاسابيس نقل كل جانب من جوانب التنظيم المالي إلى مجال الذكاء الاصطناعي. السمات الهيكلية ذات الصلة تشمل:

• التمويل من الصناعة
• الإشراف الحكومي
• موظفون متخصصون
• وضع القواعد
• المراقبة التقنية
• متطلبات العضوية أو المؤهلات
• القدرة على التكيف مع المخاطر المتغيرة
• مزيج من المشاركة العامة والصناعية

تحتاج منظمات الذكاء الاصطناعي المتقدمة إلى بنية تحتية حاسوبية باهظة الثمن وموظفين متخصصين للغاية. يمكن للتمويل من الصناعة توفير الموارد اللازمة لتوظيف باحثي النماذج، وخبراء الأمن السيبراني، وخبراء المخاطر البيولوجية، ومهندسي التقييم، وفرق البنية التحتية. يهدف التنظيم الفيدرالي إلى منع تحول المنظمة إلى نادٍ خاص يسيطر عليه بالكامل الكيانات الخاضعة للتقييم.

هيكل الحوكمة المقترح

يقترح هاسابيس أن يتضمن مجلس الإدارة خبراء تقنيين مستقلين وممثلين عن مجتمع الذكاء الاصطناعي مفتوح المصدر. هذا أمر بالغ الأهمية لأن حوكمة الذكاء الاصطناعي المتقدم تؤثر على المنظمات التي تتبع نماذج تطوير مختلفة تماماً. قد توفر مختبرات النماذج المغلقة الوصول عبر واجهات آمنة دون نشر ملفات الأوزان، بينما قد ينشر مطورو النماذج مفتوحة المصدر معلمات النموذج والرمز والتفاصيل التقنية. إذا كانت هيئة المعايير تمثل فقط أكبر المختبرات الخاصة، فقد تضع قواعد تضر عن قصد أو عن غير قصد بالمنظمات الصغيرة.

يمكن أن يتضمن هيكل أكثر توازناً:

• باحثون مستقلون في الذكاء الاصطناعي
• خبراء في الأمن السيبراني
• خبراء في السلامة البيولوجية والكيميائية
• ممثلون عن المصادر المفتوحة
• أصوات المستهلكين والمجتمع المدني
• موظفو المختبرات الوطنية
• مراقبون حكوميون
• تقنيو المختبرات المتقدمة
• باحثون في التقييم
• خبراء البنية التحتية والأمن

قواعد التصويت وتضارب المصالح المحددة أمر بالغ الأهمية. الخبرة الصناعية ضرورية لفهم التكنولوجيا، لكن السيطرة الصناعية المفرطة قد تقوض ثقة الجمهور.

أفضل الممارسات للمختبرات المتقدمة

يتجاوز الاقتراح نطاق اختبار النماذج. يجب على المنظمات المصنفة كمختبرات متقدمة اعتماد ممارسات تشغيلية أكثر صرامة، بما في ذلك:

• نشر بطاقات نموذج مفصلة
• الحفاظ على أمن سيبراني داخلي قوي
• حماية أوزان النماذج
• فحص الموظفين في المناصب الحساسة
• تمويل أبحاث السلامة والأمن
• توثيق نتائج التقييم
• الإبلاغ عن الحوادث الكبرى
• استخدام التوقيعات الرقمية

العلامات المائية للمحتوى المُنشأ

• الحفاظ على ضوابط نشر آمنة
• التعاون في معالجة الثغرات بعد النشر

تعكس هذه المتطلبات حقيقة مهمة: مخاطر الذكاء الاصطناعي المتقدم لا تبدأ ولا تنتهي بسلوك النموذج.

النموذج الآمن، إذا سُرقت أوزانه، أو كُشف توجيه النظام، أو كانت أدواته مهيأة بشكل خاطئ، أو كانت بيئة نشره تفتقر إلى الضوابط المناسبة، لا يزال بإمكانه إحداث مخاطر.

لا تزال هيئات التقييم الخارجية ضرورية

ليست هناك حاجة لهيئة وضع المعايير لإجراء جميع الاختبارات داخلياً.

يقترح هاسابيس دعم نظام بيئي من هيئات التقييم والتدقيق المستقلة.

يمكن للمنظمات المختلفة التركيز على:

• تقييمات الأمن السيبراني
• تقييمات المخاطر البيولوجية
• استقلالية الوكيل
• التلاعب والإقناع
• قابلية التفسير
• حماية أوزان النموذج
• اختبار الفرق الحمراء
• اختبار النماذج المفتوحة
• العلامات المائية والتتبع
• المراقبة بعد النشر

يمكن للهيئة المركزية تحديد المتطلبات وتنسيق العمليات، بينما يقوم الخبراء المعتمدون بإجراء تقييمات محددة.

قد يكون هذا النهج أكثر قابلية للتوسع من محاولة بناء جميع أشكال الخبرة داخل منظمة واحدة.

كما أنه يقلل الاعتماد على مقيم واحد قد تحتوي طريقته على نقاط عمياء غير معروفة.

كيف يرتبط هذا الاقتراح بالمؤسسات الأمريكية الحالية

تمتلك الولايات المتحدة بالفعل وكالات حكومية تعمل في مجال اختبار الذكاء الاصطناعي ووضع المعايير.

يمتلك المعهد الوطني للمعايير والتقنية مركز الذكاء الاصطناعي للمعايير والابتكار.

يتعاون المركز مع الصناعة لوضع معايير طوعية، وتطوير طرق التقييم، وإجراء تقييمات تتعلق بالأمن السيبراني، والسلامة البيولوجية، والأسلحة الكيميائية، والأمن القومي، وأنظمة الذكاء الاصطناعي الأجنبية.

يتداخل اقتراح هاسابيس مع هذا العمل، لكنه سيخلق هيكلاً فريداً.

قد يكون تقسيم المسؤوليات كما يلي:

الهيئة	الدور المحتمل
المعهد الوطني للمعايير والتقنية والمركز	علم القياس، المعايير العامة، التقييم الحكومي، تنسيق الأمن القومي
هيئة وضع المعايير المقترحة	عمليات التقييم قبل النشر، متطلبات المختبرات المتقدمة، الاعتماد التقني، الإشراف الصناعي المستمر
الوكالات الفيدرالية	السلطة القانونية، قرارات الأمن القومي، إنفاذ القانون، ضوابط التصدير
المختبرات الوطنية	الاختبارات المتخصصة، البنية التحتية الآمنة، الخبرة العلمية
هيئات التقييم الخارجية	التدقيق الخاص بالمجال، اختبار الفرق الحمراء، تطوير المعايير
المختبرات المتقدمة	الوصول الآمن إلى النماذج، التوثيق التقني، الإجراءات التصحيحية، المراقبة بعد النشر

يتطلب هذا الترتيب تنسيقاً دقيقاً لتجنب ازدواجية الاختبارات، وتضارب المتطلبات، وغموض الصلاحيات.

العلاقة مع إطار السلامة المتقدمة من Google DeepMind

تستخدم Google DeepMind بالفعل إطار السلامة المتقدمة الداخلي.

يحدد هذا الإطار عتبات القدرات الحرجة ويربطها بإجراءات التقييم والسلامة والنشر.

تشمل مجالات المخاطر:

• الأمن السيبراني
• قدرات الأسلحة البيولوجية والإشعاعية والنووية والكيميائية
• التلاعب الضار
• البحث والتطوير في التعلم الآلي
• عدم تطابق الأهداف

يستخدم إطار DeepMind أيضاً حالات السلامة وتدابير التخفيف للنماذج التي تصل إلى مستويات قدرة محددة.

سيوسع اقتراح هاسابيس الجديد هذا المنطق العام إلى ما وراء شركة واحدة.

بدلاً من أن يضع كل مختبر متقدم عتباته ويراجعها بنفسه، ستقوم منظمة خارجية بإنشاء اختبارات مشتركة ومتطلبات دنيا.

المزايا المحتملة للاقتراح

الخبرة التقنية

يمكن للمنظمة المتخصصة توظيف أشخاص يفهمون النماذج المتقدمة بما يكفي لتقييم قدراتهم.

غالباً ما تكافح الهيئات التنظيمية العامة لمضاهاة العمق التقني للمختبرات المتقدمة.

التكيف الأسرع

قد يقوم الهيكل التنظيمي الذاتي بتحديث المعايير والعمليات بشكل أسرع من التشريع.

معايير مشتركة

يمكن للتقييمات العامة أن تجعل ادعاءات سلامة النماذج من مطورين مختلفين أكثر قابلية للمقارنة.

الوصول قبل النشر

يمنح الاختبار قبل النشر المقيّمين مزيداً من الوقت لاكتشاف العيوب الخطيرة قبل أن يصل النموذج إلى ملايين المستخدمين.

الاختبار المستقل

يمكن للاختبار المحجوز والتدقيق الخارجي تقديم أدلة تتجاوز بطاقات النماذج التي تنشرها الشركة.

النطاق المحدود

إعفاء النماذج العادية غير المتقدمة يقلل العبء على الشركات الناشئة والجامعات ومشاريع المصادر المفتوحة الصغيرة.

الأساس الدولي

يمكن للنظام الذي تقوده الولايات المتحدة أن يوفر نقطة انطلاق للمعايير الدولية المتوافقة.

المشكلات المهمة التي لم يحلها الاقتراح بالكامل

على الرغم من تفاصيل الخطة، إلا أنها لا تزال تعاني من عدة مشكلات في التصميم.

من يقرر ما يعتبر ذكاءً اصطناعياً متقدماً؟

قد تحدد عتبات القدرات الشركات التي ستتحمل تكاليف الاختبار الباهظة وتأخيرات النشر المحتملة.

يجب أن تكون عملية تحديد العتبات شفافة، وقائمة على الأدلة، وقابلة للطعن.

ما مدى استقلالية هيئة ممولة من الصناعة؟

يمكن للتمويل من الصناعة أن يوفر الخبرة والقدرة الحاسوبية، لكنه يثير أيضاً تضارباً في المصالح.

هناك حاجة إلى إشراف حكومي قوي، وحوكمة المصلحة العامة، والشفافية المالية، والمراجعة الخارجية.

هل يمكن إكمال مراجعة مدتها 30 يوماً بشكل موثوق؟

تتطلب بعض التقييمات بيئات متخصصة، ومراجعة الخبراء، واختبار الوكيل طويل الأمد، أو تجارب متكررة.

تحتاج هيئة المعايير إلى موظفين وقدرة حاسوبية كافيين لتجنب أن تصبح عنق زجاجة للنشر.

كيف يتم اختبار النماذج المفتوحة؟

تختلف مخاطر النماذج التي تُنشر أوزانها عن تلك التي تستضيفها واجهات برمجة التطبيقات.

بعد نشر الأوزان، قد تفشل العديد من تدابير الحماية في النشر.

قد تحتاج متطلبات التقييم إلى التمييز بين الأنظمة مفتوحة الأوزان، ومقيدة الأوزان، والمغلقة المستضافة.

ماذا يحدث عندما تكون النتائج غير مؤكدة؟

غالباً ما ينتج عن التقييم المتقدم أدلة غامضة.

يحتاج الإطار إلى قواعد للموافقة المشروطة، والاختبار الإضافي، وقيود النشر، والاستئناف، والمراجعة المستقلة.

كيف يعمل إنفاذ القانون؟

لا تستطيع هيئة التنظيم الذاتي فرض عقوبات قانونية تلقائياً على الشركات خارج نطاقها.

تحتاج السلطة الرسمية إلى تشريع، أو إجراءات وكالة، أو متطلبات تعاقدية، أو قواعد شراء، أو شروط الوصول إلى السوق.

هل سيحمي النظام الشركات القائمة؟

تستطيع شركات الذكاء الاصطناعي الكبيرة تحمل تكاليف التقييم الشامل وفرق الامتثال.

قد يواجه المطورون الصغار صعوبات، حتى لو وصلت نماذجهم إلى نفس عتبات القدرات.

يحتاج الإطار إلى منع تحول متطلبات السلامة إلى حواجز تنافسية.

متى قد يصبح الإطار أكثر صرامة

يعتقد هاسابيس أن النظام يجب أن يكون قابلاً للتعديل.

إذا أظهرت التقييمات أن النماذج المتقدمة تولد مخاطر أكثر خطورة، يمكن تشديد الرقابة.

تشمل الترقية المحتملة:

• تمديد دورات المراجعة
• زيادة متطلبات السلامة

تقييد بيئة النشر

• فرض الإشراف البشري
• تقييد صلاحيات الوصول إلى الأدوات
• التحكم في الحصول على أوزان النماذج
• تعزيز الالتزام بالإبلاغ عن الحوادث
• تقييد الإصدار المؤقت
• التنسيق لتعليق فئات قدرات محددة

الخيار الأكثر صرامة هو التنسيق لإبطاء وتيرة البحث والتطوير في المختبرات الرائدة عندما تكون الأدلة كافية.

مثل هذه التدخلات صعبة على الصعيدين السياسي والتقني، وتتطلب عتبات واضحة، وتنسيقًا دوليًا، وآليات تنفيذ، وأدلة قاطعة على أن الاستمرار في الوتيرة الحالية سينتج عنه مخاطر غير مقبولة.

مشكلة العولمة

يمتد تطوير ونشر الذكاء الاصطناعي المتقدم عبر الحدود الوطنية.

يمكن لهيئات وضع المعايير الأمريكية التأثير على الوصول إلى السوق الأمريكية، لكنها لا تستطيع تنظيم جميع المختبرات عالميًا بشكل مستقل.

لذلك، تعتبر مقترحات هاسابيس القيادة الأمريكية نقطة انطلاق وليس نظامًا نهائيًا.

يلزم تحقيق التوافق الدولي في المجالات التالية:

• تعريفات القدرات
• طرق التقييم
• الوصول إلى النماذج السرية
• الإبلاغ عن الحوادث
• المخاطر الأمنية الوطنية
• إصدار الأوزان مفتوحة المصدر
• تتبع النماذج
• ضوابط التصدير والنشر
• الاعتراف المتبادل بنتائج الاختبارات
• التدقيق عبر الحدود

غياب التنسيق سيؤدي إلى مواجهة الشركات لمعايير غير متناسقة أو اختيارها للولايات القضائية ذات البيئات التنظيمية الأكثر تساهلاً.

في الوقت نفسه، قد تكون وكالة تنظيمية عالمية واحدة غير عملية سياسيًا.

قد يكون إنشاء شبكة من هيئات التقييم الوطنية والإقليمية التي تتبنى معايير تقنية مشتركة حلاً أكثر واقعية.

معنى هذا الاقتراح لمطوري الذكاء الاصطناعي المتقدم

هيئة وضع المعايير الفعالة ستغير عملية إطلاق النماذج.

حاليًا، تصدر المختبرات الرائدة بطاقات النماذج، وبطاقات الأنظمة، وأطر الأمان، وبعض نتائج التقييم بشكل أساسي ذاتيًا.

بموجب النظام الجديد، قد يحتاج المطورون المتقدمون إلى إعداد:

1. الوصول السري إلى النماذج قبل الإصدار
2. اختبار القدرات المستقل
3. اختبارات الأساس المحجوزة
4. مراجعات الأمان الخارجية
5. الإبلاغ الموحد عن الحوادث
6. إثبات الأمن السيبراني الداخلي
7. التزامات المعالجة بعد الإصدار
8. توثيق تقني أكثر تفصيلاً
9. شروط النشر المحتملة
10. الموافقة الرسمية قبل دخول السوق الأمريكية

سيصبح تقييم الأمان بوابة واضحة للإصدار، بدلاً من كونه ممارسة داخلية تقررها كل شركة بنفسها.

الأسئلة الشائعة

ما هو الاقتراح الذي قدمه ديميس هاسابيس؟

اقترح إنشاء هيئة مستقلة لوضع المعايير بقيادة أمريكية لتقييم نماذج الذكاء الاصطناعي المتقدمة. ستضع الهيئة اختبارات تقنية، وتدقق النماذج قبل إطلاقها، وتعزز ممارسات الأمان، وتنسق معالجة الثغرات الخطيرة.

هل هذه المنظمة تابعة للحكومة الأمريكية؟

تشبه كيانًا مشتركًا بين القطاعين العام والخاص أو منظمة ذاتية التنظيم تحت إشراف فيدرالي. يمكن أن يأتي تمويلها بشكل أساسي من صناعة الذكاء الاصطناعي مع العمل تحت إشراف حكومي.

لماذا تم اختيار FINRA كنموذج؟

FINRA هي منظمة ذاتية التنظيم ممولة من الصناعة وتشرف على الوسطاء والتجار في الولايات المتحدة تحت إشراف هيئة الأوراق المالية والبورصات. يعتقد هاسابيس أن هيكلًا مشابهًا يمكن أن يجمع بين الخبرة التقنية، والقواعد التكيفية، والتمويل من الصناعة، والإشراف العام.

كم من الوقت ستستغرق مراجعة النماذج المتقدمة قبل الإصدار؟

يسمح الاقتراح الأولي بالمشاركة الطوعية مع هيئة وضع المعايير قبل الإصدار لمدة تصل إلى 30 يومًا. قد يختلف وقت المراجعة المحدد حسب النموذج ومتطلبات التقييم.

هل يحتاج كل نموذج ذكاء اصطناعي إلى موافقة؟

لا. سينطبق الإطار على النماذج التي تصل إلى عتبات القدرات المتقدمة التي يتم تحديثها دوريًا. النماذج الصغيرة من الشركات الناشئة والجامعات والمنظمات الأخرى لن تخضع لهذه العملية بشكل عام، إلا إذا وصلت قدراتها إلى المستوى المحدد.

هل تشمل نماذج الذكاء الاصطناعي مفتوحة المصدر؟

ذكر هاسابيس أن الإطار يجب أن ينطبق على الأنظمة على المستوى المتقدم، سواء كانت مفتوحة أو مغلقة المصدر، وبغض النظر عن بلد المنشأ. قد تتطلب النماذج ذات الأوزان المفتوحة ضمانات مختلفة، حيث قد لا يمكن فرض ضوابط النشر بعد الإصدار.

ما هي المخاطر التي ستقيمها الهيئة؟

يركز الاقتراح على الأمن السيبراني، والتهديدات البيولوجية، والسلوك الذاتي، والخداع، وتجاوز الضمانات، والقدرات عالية المخاطر الأخرى. يجب تحديث مجموعات الاختبار بانتظام مع ظهور مخاطر وقدرات جديدة.

هل تقوم الولايات المتحدة بالفعل بتقييم نماذج الذكاء الاصطناعي المتقدمة؟

نعم. يعمل مركز معايير وابتكار الذكاء الاصطناعي في NIST على الاختبارات والمعايير والتقييمات التي تشمل الذكاء الاصطناعي التجاري والمتقدم. ستضيف الهيئة المقترحة هيكلًا أكثر رسمية واستقلالية للمراجعة قبل الإصدار والإشراف على الصناعة.

الأدوات ذات الصلة

• Inspect AI: إطار عمل مفتوح المصدر من معهد سلامة الذكاء الاصطناعي البريطاني لإجراء تقييمات منظمة وقابلة للتكرار للنماذج المتقدمة.
• إطار إدارة مخاطر الذكاء الاصطناعي من NIST: إطار عمل طوعي لإدارة مخاطر الذكاء الاصطناعي ورسمها وقياسها والتعامل معها.
• مركز معايير وابتكار الذكاء الاصطناعي من NIST: المركز الحكومي الأمريكي لاختبارات الذكاء الاصطناعي وعلوم القياس والمعايير والتقييمات الأمنية الوطنية.
• إطار الأمان المتقدم من Google DeepMind: الإطار الداخلي لـ DeepMind لتحديد وتخفيف المخاطر الجسيمة للنماذج المتقدمة.
• Inspect Evals: مجموعة من التقييمات القابلة للتكرار المبنية على إطار عمل Inspect AI.

الروابط ذات الصلة

• إطار الذكاء الاصطناعي المتقدم وفجر عصر جديد: الاقتراح الكامل لديميس هاسابيس.
• حول FINRA: الشرح الرسمي لهيكل FINRA وتمويلها ومسؤولياتها وإشراف هيئة الأوراق المالية والبورصات.
• [مركز معايير الذكاء الاصطناعي]

والابتكار](https://www.nist.gov/caisi): معلومات رسمية حول تقييمات CAISI ووضع المعايير ودورها في الأمن القومي.

• تحديث إطار الأمان المتقدم من Google DeepMind: استراتيجية DeepMind في عتبات القدرات، والحجج الأمنية، والضمانات، وتدابير التخفيف في النشر.
• نهج معهد سلامة الذكاء الاصطناعي البريطاني في التقييمات: النهج الرسمي للحكومة البريطانية في اختبار الذكاء الاصطناعي المتقدم قبل وبعد النشر.
• إرشادات إدارة مخاطر الذكاء الاصطناعي التوليدي من NIST: إرشادات لإدارة المخاطر تغطي دورة حياة الذكاء الاصطناعي التوليدي بأكملها.
• البيان المشترك الدولي للشبكة: تقييم مخاطر الذكاء الاصطناعي المتقدم: مبادئ مشتركة دوليًا لتقييم أنظمة الذكاء الاصطناعي المتقدمة.

ملخص

يقترح ديميس هاسابيس إنشاء هيئة مستقلة لوضع المعايير ذات خبرة تقنية، مسؤولة عن مراجعة نماذج الذكاء الاصطناعي الأكثر قدرة قبل إطلاقها. ستبدأ المنظمة بالتعاون الطوعي، وبناء عملية تقييم موثوقة، وقد تصبح في المستقبل شرطًا إلزاميًا لنشر النماذج المتقدمة في الولايات المتحدة.

يحاول الاقتراح دمج الخبرة الصناعية والتمويل مع الإشراف الحكومي، والاختبار المستقل، والمعايير المحجوزة، والتدقيق من طرف ثالث، والمراقبة المستمرة بعد الحدث.

لا تزال هناك العديد من قضايا التنفيذ التي يتعين حلها، بما في ذلك آليات الحوكمة، وطرق التنفيذ، ومعالجة النماذج مفتوحة المصدر، وقدرات التقييم، وتضارب المصالح، والتنسيق الدولي. ومع ذلك، فإن الاقتراح أكثر تحديدًا من الدعوات العامة لتنظيم الذكاء الاصطناعي - فهو يوضح هيكل الهيئة، وعملية المراجعة، والنطاق، والمسؤوليات التقنية.

الفكرة الأساسية واضحة ومباشرة: يجب اختبار سلامة الذكاء الاصطناعي المتقدم من قبل منظمة تمتلك الاستقلالية الكافية، والخبرة، والموارد الحاسوبية، والسلطة لتحدي شركات التكنولوجيا التي تبني النماذج.