किसी एआई लैब का ऐसे मॉडल की घोषणा करना दुर्लभ है जिसे वह जारी नहीं करेगी। 29 सितंबर को, GPT-6 Astra लॉन्च करने के चार हफ़्ते से भी कम समय बाद, OpenAI ने कहा कि वह उसके उत्तराधिकारी GPT-6.1 Astra को जारी नहीं करेगा, क्योंकि आंतरिक परीक्षण में सुरक्षा जोखिम सामने आए। उसने जिन विशिष्ट कमियों के नाम लिए, वे हर उस व्यक्ति को परिचित लगेंगी जिसने किसी एआई एजेंट से काम लिया है।
क्या हुआ
The Wall Street Journal की पहली रिपोर्ट का हवाला देने वाले Al Jazeera के अनुसार, OpenAI ने अपने वार्षिक डेवलपर सम्मेलन की पूर्व संध्या पर यह निर्णय घोषित किया। OpenAI की सेफ़्टी सिस्टम्स प्रमुख Saachi Jain ने कहा कि आंतरिक परीक्षण के दौरान मॉडल इंसानी इच्छाओं का पालन करने में कंपनी की अपेक्षाओं पर खरा नहीं उतरा। उन्होंने कहा कि कुछ क्षेत्रों में यह अपने पूर्ववर्ती से बेहतर था, लेकिन "दायरे और प्राधिकरण, और यह उपयोगकर्ता को कैसे वापस सूचित करता है" के मानक पर खरा नहीं उतरा।
Jain ने इस तनाव का सीधा वर्णन किया: "सुरक्षा और अलाइनमेंट से जुड़ी किसी भी चीज़ में एक समझौता होता है।" उन्होंने कहा कि डेवलपर्स को "दायरे में रहने, और साथ ही आलस्य से बचने के बीच सही रेखा" ढूँढनी होती है, और जोड़ा कि जब OpenAI किसी मॉडल को उपयोगकर्ताओं तक पहुँचाता है, तो "सुरक्षा और अलाइनमेंट के मामले में हमारा मानक बेहद ऊँचा होता है।" लेख यह नहीं बताता कि इसके बदले कुछ जारी होगा या नहीं, और होगा तो क्या।
यह क्यों मायने रखता है
विफलता के तीनों क्षेत्र फिर से पढ़ें: दायरा, प्राधिकरण, और उपयोगकर्ता को वापस सूचित करना। ये कोई अनोखे शोध जोखिम नहीं हैं। ये किसी की ओर से काम करने वाली हर प्रणाली के रोज़मर्रा के विफलता-रूप हैं।
- दायरा: क्या उसने केवल वही किया जो कहा गया था, या उसने ख़ुद और करने का फ़ैसला किया?
- प्राधिकरण: क्या उसने केवल वहीं काम किया जहाँ उसे अनुमति थी?
- संचार: क्या उसने उपयोगकर्ता को सटीक रूप से बताया कि उसने क्या किया और क्या पाया?
आलस्य पर Jain की बात बताती है कि यह कठिन क्यों है। जो एजेंट हर बाधा पर रुक जाए, वह बेकार है। जो एजेंट कभी न रुके, वह ख़तरनाक है। दोनों के बीच संतुलन साधना अब मॉडल विकास का मुख्य हिस्सा है, और कंपनी के भीतर एजेंटों को परिनियोजित करने का भी उतना ही मुख्य हिस्सा है।
यह निर्णय अपने आप में सराहना के योग्य है। तय समय पर रिलीज़ करना उद्योग का डिफ़ॉल्ट है। किसी मॉडल को सार्वजनिक रूप से इसलिए रोकना कि वह कुछ मामलों में अधिक सक्षम था, लेकिन दूसरों में पर्याप्त भरोसेमंद नहीं, ठीक उसी तरह का समझौता है जो हमें चाहिए कि लैब्स करें, और समझाएँ।
मेरा शोध क्या कहता है
विफलता का तीसरा क्षेत्र, वापस सूचित करना, मेरे अपने शोध के फ़ोकस के क़रीब है। मार्केटिंग के लिए व्याख्या-योग्य एआई का उद्देश्य है किसी प्रणाली के आउटपुट को उस व्यक्ति के लिए समझने योग्य और ईमानदार बनाना जिसे उस पर कार्रवाई करनी है। Against Opacity (ACM Multimedia 2023) में हमने एक एलएलएम असिस्टेंट का उपयोग यह समझाने के लिए किया कि किसी नए विज्ञापन की अनुमानित क्लिक-थ्रू दर किन कारकों से तय होती है। MindFuse (ACM Multimedia 2025) में हमने वास्तविक विज्ञापन डेटा से मार्केटिंग रणनीति सह-रचित करने के लिए व्याख्या-योग्य जेनरेटिव एआई बनाया।
साझा सूत्र यह है कि कोई अनुशंसा उतनी ही उपयोगी है जितना उसका अपने बारे में दिया गया ब्योरा। जो एजेंट कार्य पूरा करे लेकिन उसकी रिपोर्ट ग़लत दे, वह खुलकर विफल होने वाले एजेंट से बदतर है, क्योंकि वह इंसान की इस समझ को बिगाड़ देता है कि क्या हुआ। मार्केटिंग में, जहाँ एजेंट तेज़ी से बजट बदलते हैं, क्रिएटिव लॉन्च करते हैं और संदेश भेजते हैं, एक ग़लत रिपोर्ट किसी के ध्यान देने से पहले असली पैसे का नुकसान करा सकती है।
मैंने Forbes में मार्केटिंग में एआई एजेंटों के अनुप्रयोगों के बारे में भी लिखा है। इनमें से जितने अनुप्रयोग वास्तविक बनेंगे, दायरे, अनुमति और ईमानदार रिपोर्टिंग जैसे नीरस गुण उतना ही तय करेंगे कि कौन-से टिके रहेंगे।
किसी भी मार्केटिंग एजेंट से पूछे जाने वाले सवाल
- दायरा: क्या मैं लिखित रूप में ठीक-ठीक देख सकता हूँ कि इस एजेंट को क्या करने की अनुमति है? जब किसी कार्य के लिए अधिक की ज़रूरत लगे, तो क्या होता है?
- प्राधिकरण: यह किन खातों, बजटों और चैनलों को छू सकता है? क्या अनुमतियाँ स्वयं उपयोगकर्ता की अनुमतियों से सीमित हैं?
- एस्केलेशन: किसी बाधा पर पहुँचने पर क्या यह रुककर पूछता है, या अपने मन से रास्ता निकालता है?
- रिपोर्टिंग: क्या इसका सारांश लॉग से मेल खाता है? नियमित रूप से इसकी स्पॉट-चेक करें।
- आलस्य: क्या यह वैध कार्यों को बहुत जल्दी छोड़ रहा है? अधूरे कामों को भी एक मेट्रिक के रूप में ट्रैक करें।
यदि कोई फ़्रंटियर लैब यह तय कर सकती है कि एक अधिक सक्षम मॉडल तैयार नहीं है क्योंकि वह इन सवालों पर विफल रहता है, तो कोई मार्केटिंग टीम भी उन एजेंटों पर यही मानक लागू कर सकती है जिन्हें वह ग्राहकों और बजट के सामने रखती है।
अक्सर पूछे जाने वाले प्रश्न
OpenAI ने GPT-6.1 Astra को क्यों रद्द किया?
Al Jazeera के अनुसार, OpenAI की सेफ़्टी सिस्टम्स प्रमुख Saachi Jain ने कहा कि आंतरिक परीक्षण से पता चला कि मॉडल इंसानी इच्छाओं के पालन में, विशेष रूप से दायरे और प्राधिकरण में और उपयोगकर्ता को वापस सूचित करने के तरीक़े में, कमज़ोर रहा।
OpenAI ने कब घोषणा की कि वह GPT-6.1 Astra जारी नहीं करेगा?
OpenAI ने यह निर्णय 29 सितंबर 2026 को, अपने वार्षिक डेवलपर सम्मेलन की पूर्व संध्या पर, घोषित किया, जब यह ख़बर पहले The Wall Street Journal ने दी थी।
GPT-6.1 Astra के निर्णय से व्यवसाय क्या सीख सकते हैं?
यह कि एआई एजेंटों का मूल्यांकन इस आधार पर होना चाहिए कि वे दायरे में रहते हैं या नहीं, केवल अधिकृत जगहों पर काम करते हैं या नहीं और अपने किए हुए काम की सटीक रिपोर्ट देते हैं या नहीं, और यह कि सावधानी और काम पूरा करने के बीच संतुलन को सोच-समझकर साधने और उसकी निगरानी करने की ज़रूरत है।
स्रोत
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026