व्हाइट हाउस एआई समझौता और स्वतंत्र मूल्यांकनकर्ता

एआई कंपनियों की स्वैच्छिक प्रतिबद्धताओं का रिकॉर्ड मिला-जुला रहा है। कुछ साल भर में भुला दी जाती हैं। नवीनतम प्रतिबद्धता को दिलचस्प बनाता है व्हाइट हाउस का समारोह नहीं, बल्कि उसके भीतर का एक ठोस विचार: स्वतंत्र मूल्यांकनकर्ता। दो हफ़्ते बाद, एक लैब ने दिखाया कि व्यवहार में यह कैसा दिख सकता है।

क्या हुआ

Forbes के अनुसार, 29 सितंबर को राष्ट्रपति Trump और कई टेक्नोलॉजी कंपनियों के प्रमुखों ने "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities" पर हस्ताक्षर किए, जो 300 से थोड़े अधिक शब्दों का एक दस्तावेज़ है। राष्ट्रपति के साथ सूचीबद्ध हस्ताक्षरकर्ता हैं Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai और OpenAI के प्रेसिडेंट Greg Brockman।

Forbes फ़्रंटियर मॉडल को प्रशिक्षित और परिनियोजित करने वाली कंपनियों के लिए चार प्रतिबद्धताओं का सारांश देता है: मॉडल की क्षमताओं और अलाइनमेंट की निगरानी करने वाले आंतरिक नियंत्रण बनाए रखना, जिसमें यह सुनिश्चित करना शामिल है कि मॉडल तकनीकी प्रणालियों तक अनपेक्षित तरीक़ों से न पहुँचें; एक आंतरिक टीम द्वारा यह सुनिश्चित करना कि वे नियंत्रण काम करें और समस्याएँ ठीक हों; एक "स्वतंत्र बाहरी ऑडिटर या मूल्यांकनकर्ता" के साथ साझेदारी करना; और नियंत्रणों और ऑडिटरों की निगरानी के लिए "निदेशक मंडल की एक स्वतंत्र समिति" नामित करना। Trump ने समझौते को "नैतिक रूप से बाध्यकारी" और "एक तरह से लगभग संविधान जैसा" बताया। MercoPress बताता है कि इसमें उल्लंघन के लिए कोई परिणाम तय नहीं हैं, और University of Sydney की प्रोफेसर Kimberlee Weatherall को उद्धृत करता है, जिन्होंने इसे "बेहद निराशाजनक" कहा।

15 अक्टूबर को Anthropic ने An update on independent evaluators प्रकाशित किया। इसमें कहा गया है कि उसने फ़्रंटियर मॉडलों का मूल्यांकन करने वाली गैर-लाभकारी संस्था METR की एक टीम को कर्मचारियों जैसी पहुँच दी है: METR के छह कर्मचारियों को कंपनी हार्डवेयर और आंतरिक टूल्स के साथ जोड़ा गया, जो मोटे तौर पर Anthropic की अपनी जोखिम टीमों के बराबर है। METR अपने जोखिम आकलन प्रकाशित करेगा; Anthropic का कहना है कि वह इन प्रकाशनों पर वीटो नहीं कर सकता, हालाँकि वह गोपनीय IP जैसी पूर्व-निर्धारित श्रेणियों को हटाने की माँग कर सकता है। Anthropic इस मॉडल की तुलना बैंक पर्यवेक्षकों द्वारा बड़े बैंकों के भीतर परीक्षक बिठाने से करता है, और कहता है कि सभी फ़्रंटियर एआई कंपनियों को ऐसा ही करना चाहिए।

यह क्यों मायने रखता है

समझौता पतला है, और आलोचक सही हैं कि बिना परिणामों वाला स्वैच्छिक पाठ किसी चीज़ की गारंटी नहीं देता। लेकिन स्वतंत्र मूल्यांकनकर्ता की प्रतिबद्धता एक उपयोगी आधार है, क्योंकि इसकी जाँच की जा सकती है। या तो किसी कंपनी के पास वास्तविक पहुँच और प्रकाशन की स्वतंत्रता वाला बाहरी मूल्यांकनकर्ता है, या नहीं है।

Anthropic की व्यवस्था एक दृश्यमान मानक तय करती है: गहरी पहुँच, प्रकाशन के अधिकार और हटाने पर स्पष्ट सीमाएँ। अब दूसरी कंपनियों की तुलना इससे की जा सकती है। स्वैच्छिक प्रतिबद्धताएँ इसी तरह मानदंड बनती हैं।

मेरा शोध क्या कहता है

मेरा शोध क्षेत्र, मार्केटिंग के लिए व्याख्या-योग्य एआई, छोटे पैमाने पर इसी सिद्धांत पर टिका है: कोई मॉडल क्या करता है, इसके दावों का सत्यापन मॉडल के मालिक के अलावा कोई और भी कर सके। Against Opacity (ACM Multimedia 2023) और MindFuse (ACM Multimedia 2025) में व्याख्या की परत इसीलिए है कि मार्केटर किसी पूर्वानुमान को आँख मूँदकर मानने के बजाय जाँच सके कि वह क्यों किया गया।

मैंने Forbes में तर्क दिया है कि मार्केटिंग-संचालित कंपनियों के लिए पारदर्शिता मायने रखती है। फ़्रंटियर लैब्स अब सुरक्षा के लिए इसी के एक संस्करण पर एकमत हो रही हैं: आंतरिक नियंत्रण, आंतरिक टीमें, बाहरी मूल्यांकनकर्ता, बोर्ड की निगरानी। मार्केटिंग एआई में वैसे विनाशकारी जोखिम नहीं हैं, लेकिन वास्तविक जोखिम हैं: पक्षपातपूर्ण टार्गेटिंग, भ्रामक दावे, निजता का उल्लंघन, ग़लत संकेत पर ख़र्च हुआ बजट। यही चार-परतीय संरचना छोटे पैमाने पर भी अच्छी तरह काम करती है।

मार्केटिंग एआई गवर्नेंस के लिए एक चार-परतीय मॉडल

• आंतरिक नियंत्रण। निगरानी करें कि आपकी एआई प्रणालियाँ क्या करती हैं: वे किन ऑडियंस को लक्षित करती हैं, कौन-से दावे बनाती हैं, कौन-सा डेटा उपयोग करती हैं।
• एक आंतरिक ज़िम्मेदार। उन नियंत्रणों की जाँच करने और समस्याएँ ठीक करने के लिए एक व्यक्ति या टीम को ज़िम्मेदार बनाएँ।
• बाहरी नज़र। किसी स्वतंत्र पक्ष, जैसे ऑडिटर, शोध साझेदार या दूसरे वेंडर, से समय-समय पर अपने प्रमुख मॉडलों और दावों का परीक्षण करवाएँ।
• वरिष्ठ निगरानी। एआई जोखिमों की रिपोर्ट नेतृत्व को उसी तरह दें जैसे वित्तीय जोखिमों की देते हैं, किसी प्रणाली को रोकने के अधिकार के साथ।

जब आप मार्केटिंग एआई ख़रीदें, तो वेंडर्स से वही सवाल पूछें जो यह समझौता उठाता है। आपके मॉडलों का बाहर से मूल्यांकन कौन करता है? उनके पास क्या पहुँच है? क्या वे अपने निष्कर्ष प्रकाशित कर सकते हैं? उत्तर आपको फ़ीचर सूची से ज़्यादा बताएँगे।

अक्सर पूछे जाने वाले प्रश्न