نادرًا ما يعلن مختبر ذكاء اصطناعي عن نموذج لن يطلقه. ففي 29 سبتمبر، وبعد أقل من أربعة أسابيع على إطلاق GPT-6 Astra، قالت OpenAI إنها لن تطلق خلفه، GPT-6.1 Astra، لأن الاختبارات الداخلية كشفت مخاطر تتعلق بالسلامة. وأوجه القصور المحددة التي ذكرتها مألوفة لكل من شغّل وكيل ذكاء اصطناعي.
ما الذي حدث
بحسب Al Jazeera، التي تستشهد بتقرير أول نشرته The Wall Street Journal، أعلنت OpenAI القرار عشية مؤتمرها السنوي للمطوّرين. وقالت Saachi Jain، رئيسة أنظمة السلامة في OpenAI، إن النموذج لم يرقَ إلى توقعات الشركة في اتباع رغبات البشر خلال الاختبارات الداخلية. وقالت إنه تحسّن عن سلفه في بعض المجالات، لكنه لم يبلغ المستوى المطلوب في «النطاق والتفويض، وطريقة تواصله مع المستخدم».
ووصفت Jain التوتر مباشرة: «في كل ما يتعلق بالسلامة والمواءمة، هناك مقايضة.» وقالت إن على المطوّرين أن يجدوا «الخط الصحيح بين البقاء ضمن النطاق وتجنّب الكسل في الوقت نفسه»، وأضافت أنه حين تطلق OpenAI نموذجًا للمستخدمين، «لدينا معيار مرتفع للغاية من حيث السلامة والمواءمة». ولا يذكر المقال ما الذي سيُطلق بدلًا منه، إن وُجد.
لماذا يهم ذلك
أعد قراءة مجالات الإخفاق الثلاثة: النطاق، والتفويض، والتواصل مع المستخدم. هذه ليست مخاطر بحثية غريبة، بل أنماط الإخفاق اليومية لأي نظام يتصرف نيابة عن أحد.
- النطاق: هل فعل ما طُلب منه فقط، أم قرر أن يفعل أكثر؟
- التفويض: هل تصرّف فقط حيث كان لديه إذن؟
- التواصل: هل أخبر المستخدم بدقة بما فعله وما وجده؟
ونقطة Jain بشأن الكسل تفسّر سبب صعوبة ذلك. فالوكيل الذي يتوقف عند كل عقبة عديم الفائدة. والوكيل الذي لا يتوقف أبدًا خطير. والضبط بين الحدّين أصبح الآن جزءًا أساسيًا من تطوير النماذج، وهو بالقدر نفسه جزء أساسي من نشر الوكلاء داخل الشركة.
والقرار نفسه يستحق الإشادة. فالإطلاق في الموعد هو السلوك الافتراضي في الصناعة. أما التراجع علنًا عن إطلاق نموذج لأنه كان أقدر في بعض الجوانب لكنه ليس جديرًا بالثقة بما يكفي في جوانب أخرى، فهو نوع المقايضات التي ينبغي أن نريد من المختبرات أن تقوم بها، وأن تشرحها.
ماذا تقول أبحاثي
ومجال الإخفاق الثالث، أي التواصل مع المستخدم، قريب من محور أبحاثي. فالذكاء الاصطناعي القابل للتفسير في التسويق يهدف إلى جعل مخرجات النظام مفهومة وصادقة للشخص الذي يجب أن يعمل بها. ففي Against Opacity (ACM Multimedia 2023) استخدمنا مساعدًا قائمًا على نموذج لغوي كبير لتفسير ما يحرّك معدل النقر إلى الظهور المتوقع لإعلان جديد. وفي MindFuse (ACM Multimedia 2025) بنينا ذكاءً اصطناعيًا توليديًا قابلًا للتفسير للمشاركة في صياغة الاستراتيجية التسويقية انطلاقًا من بيانات إعلانية حقيقية.
والخيط المشترك هو أن التوصية لا تكون مفيدة إلا بقدر ما يكون عرضها لنفسها مفيدًا. فالوكيل الذي يُنجز مهمة لكنه يبلّغ عنها بشكل غير دقيق أسوأ من وكيل يفشل علنًا، لأنه يفسد تصوّر الإنسان لما حدث. وفي التسويق، حيث يغيّر الوكلاء بشكل متزايد الميزانيات ويطلقون المحتوى الإبداعي ويرسلون الرسائل، قد يكلّف التقرير غير الدقيق أموالًا حقيقية قبل أن ينتبه أحد.
وكتبت أيضًا في Forbes عن تطبيقات وكلاء الذكاء الاصطناعي في التسويق. وكلما أصبح المزيد من هذه التطبيقات حقيقيًا، ستحدد الفضائل المملة، أي النطاق والإذن والإبلاغ الصادق، أيها سيبقى.
أسئلة ينبغي طرحها على أي وكيل تسويقي
- النطاق: هل يمكنني أن أرى، كتابةً، ما يُسمح لهذا الوكيل بفعله بالضبط؟ وماذا يحدث حين يبدو أن مهمة ما تتطلب أكثر؟
- التفويض: ما الحسابات والميزانيات والقنوات التي يمكنه الوصول إليها؟ وهل صلاحياته أضيق من صلاحيات المستخدم نفسه؟
- التصعيد: حين يصطدم بعقبة، هل يتوقف ويسأل، أم يرتجل؟
- الإبلاغ: هل يطابق ملخصه السجلات؟ افحص ذلك بعينات عشوائية بانتظام.
- الكسل: هل يتخلى عن مهام مشروعة مبكرًا؟ تتبّع المهام غير المكتملة بوصفها مقياسًا أيضًا.
إذا كان مختبر رائد قادرًا على أن يقرر أن نموذجًا أقدر ليس جاهزًا لأنه يخفق في هذه الأسئلة، فإن فريق التسويق قادر على تطبيق المعيار نفسه على الوكلاء الذين يضعهم أمام العملاء والميزانيات.
الأسئلة الشائعة
لماذا ألغت OpenAI إطلاق GPT-6.1 Astra؟
بحسب Al Jazeera، قالت رئيسة أنظمة السلامة في OpenAI، Saachi Jain، إن الاختبارات الداخلية أظهرت أن النموذج قصّر في اتباع رغبات البشر، وتحديدًا في النطاق والتفويض وفي طريقة تواصله مع المستخدم.
متى أعلنت OpenAI أنها لن تطلق GPT-6.1 Astra؟
أعلنت OpenAI القرار في 29 سبتمبر 2026، عشية مؤتمرها السنوي للمطوّرين، بعد أن نشرت The Wall Street Journal الخبر أولًا.
ما الذي يمكن أن تتعلمه الشركات من قرار GPT-6.1 Astra؟
أن وكلاء الذكاء الاصطناعي ينبغي أن يُقيَّموا على أساس بقائهم ضمن النطاق، وتصرّفهم فقط حيث يُصرَّح لهم، وإبلاغهم بدقة عمّا فعلوه، وأن التوازن بين الحذر وإنجاز العمل يحتاج إلى ضبط ومراقبة متعمّدين.
المصادر
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026