اتفاق البيت الأبيض للذكاء الاصطناعي والمقيّمون المستقلون

للالتزامات الطوعية من شركات الذكاء الاصطناعي سجل متفاوت. فبعضها يُنسى خلال عام. وما يجعل أحدثها مثيرًا للاهتمام ليس المراسم في البيت الأبيض، بل فكرة ملموسة واحدة في داخله: المقيّمون المستقلون. وبعد أسبوعين، أظهر أحد المختبرات كيف يمكن أن يبدو ذلك عمليًا.

ما الذي حدث

في 29 سبتمبر، وبحسب Forbes، وقّع الرئيس Trump ورؤساء عدد من شركات التكنولوجيا «White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities»، وهي وثيقة تزيد قليلًا على 300 كلمة. والموقّعون المذكورون هم Elon Musk وMark Zuckerberg وJensen Huang وDario Amodei وSundar Pichai ورئيس OpenAI ‏Greg Brockman، إلى جانب الرئيس.

تلخّص Forbes أربعة التزامات للشركات التي تدرّب النماذج الرائدة وتنشرها: الحفاظ على ضوابط داخلية تراقب قدرات النماذج ومواءمتها، بما في ذلك ضمان ألا تصل النماذج إلى الأنظمة التقنية بطرق غير مقصودة؛ وأن يتولى فريق داخلي ضمان عمل تلك الضوابط وإصلاح المشكلات؛ والشراكة مع «مدقق أو مقيّم خارجي مستقل»؛ وتعيين «لجنة مستقلة من مجلس الإدارة» للإشراف على الضوابط والمدققين. ووصف Trump الاتفاق بأنه «ملزم أخلاقيًا» و«أشبه بدستور بطريقة ما». وتشير MercoPress إلى أنه لا يحدد أي عواقب للمخالفات، وتنقل عن أستاذة جامعة سيدني Kimberlee Weatherall وصفها له بأنه «غير مثير للإعجاب على الإطلاق».

في 15 أكتوبر، نشرت Anthropic ‏An update on independent evaluators. وتقول فيه إنها منحت فريقًا من METR، وهي منظمة غير ربحية تقيّم النماذج الرائدة، وصولًا مماثلًا لوصول الموظفين: إذ أُلحق ستة من موظفي METR بالعمل مع أجهزة الشركة وأدواتها الداخلية، على قدم المساواة تقريبًا مع فرق المخاطر لدى Anthropic. وستنشر METR تقييماتها للمخاطر؛ وتقول Anthropic إنها لا تملك حق نقض هذه المنشورات، وإن كان بإمكانها اشتراط حجب فئات محددة مسبقًا مثل الملكية الفكرية السرية. وتشبّه Anthropic هذا النموذج بقيام المشرفين المصرفيين بوضع فاحصين داخل المصارف الكبرى، وتقول إن على جميع شركات الذكاء الاصطناعي الرائدة أن تفعل الشيء نفسه.

لماذا يهم ذلك

الاتفاق رقيق المضمون، والمنتقدون محقون في أن نصًا طوعيًا بلا عواقب لا يضمن شيئًا. لكن الالتزام بالمقيّمين المستقلين نقطة ارتكاز مفيدة، لأنه قابل للتحقق. فإما أن يكون لدى الشركة مقيّم خارجي بوصول حقيقي وحرية في النشر، أو لا.

ترتيب Anthropic يضع معيارًا مرئيًا: وصول عميق، وحق في النشر، وحدود واضحة على الحجب. ويمكن الآن مقارنة الشركات الأخرى به. وهكذا تتحول الالتزامات الطوعية إلى أعراف.

ماذا تقول أبحاثي

ويقوم مجال أبحاثي، الذكاء الاصطناعي القابل للتفسير في التسويق، على المبدأ نفسه بحجم أصغر: ينبغي أن تكون الادعاءات حول ما يفعله النموذج قابلة للتحقق من قبل شخص غير مالك النموذج. ففي Against Opacity ‏(ACM Multimedia 2023) وMindFuse ‏(ACM Multimedia 2025)، توجد طبقة التفسير كي يتمكن المسوّق من التحقق من سبب التنبؤ بدلًا من قبوله على سبيل الثقة.

جادلت في Forbes بأن الشفافية مهمة للشركات التي يقودها التسويق. والمختبرات الرائدة تتقارب الآن نحو نسخة من ذلك في مجال السلامة: ضوابط داخلية، وفرق داخلية، ومقيّمون خارجيون، وإشراف من مجلس الإدارة. والذكاء الاصطناعي في التسويق لا يحمل المخاطر الكارثية نفسها، لكنه يحمل مخاطر حقيقية: استهداف متحيز، وادعاءات مضللة، وانتهاكات للخصوصية، وميزانيات تُنفق على الإشارة الخطأ. والبنية نفسها ذات الطبقات الأربع تصلح جيدًا على نطاق أصغر.

نموذج من أربع طبقات لحوكمة الذكاء الاصطناعي في التسويق

• الضوابط الداخلية. راقب ما تفعله أنظمة الذكاء الاصطناعي لديك: أي جماهير تستهدف، وأي ادعاءات تولّد، وأي بيانات تستخدم.
• مسؤول داخلي. سمِّ شخصًا أو فريقًا مسؤولًا عن التحقق من تلك الضوابط وإصلاح المشكلات.
• عيون من الخارج. اجعل طرفًا مستقلًا، كمدقق أو شريك بحثي أو مزوّد ثانٍ، يختبر دوريًا نماذجك وادعاءاتك الرئيسية.
• إشراف رفيع المستوى. أبلغ القيادة بمخاطر الذكاء الاصطناعي كما تبلّغها بالمخاطر المالية، مع صلاحية إيقاف النظام مؤقتًا.

حين تشتري ذكاءً اصطناعيًا للتسويق، اطرح على المزوّدين الأسئلة نفسها التي يثيرها الاتفاق. من يقيّم نماذجكم من الخارج؟ وما الوصول الذي لديه؟ وهل يستطيع نشر ما يجده؟ الإجابات ستخبرك أكثر مما تخبرك به قائمة الميزات.

الأسئلة الشائعة