ข้อตกลง AI ของทำเนียบขาวกับผู้ประเมินอิสระ

คำมั่นโดยสมัครใจจากบริษัท AI มีประวัติที่หลากหลาย บางคำมั่นถูกลืมภายในปีเดียว สิ่งที่ทำให้ฉบับล่าสุดน่าสนใจไม่ใช่พิธีที่ทำเนียบขาว แต่เป็นแนวคิดที่เป็นรูปธรรมข้อหนึ่งในนั้น: ผู้ประเมินอิสระ สองสัปดาห์ต่อมา ห้องแล็บแห่งหนึ่งแสดงให้เห็นว่าในทางปฏิบัติมันเป็นอย่างไร

เกิดอะไรขึ้น

เมื่อวันที่ 29 กันยายน ตามรายงานของ Forbes ประธานาธิบดี Trump และผู้นำบริษัทเทคโนโลยีหลายแห่งลงนามใน "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities" เอกสารความยาวเพียงกว่า 300 คำ ผู้ลงนามที่ระบุได้แก่ Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai และ Greg Brockman ประธานของ OpenAI ร่วมกับประธานาธิบดี

Forbes สรุปคำมั่นสี่ข้อสำหรับบริษัทที่ฝึกและนำโมเดลแนวหน้าไปใช้: รักษาการควบคุมภายในที่เฝ้าติดตามความสามารถและความสอดคล้องของโมเดล รวมถึงการทำให้แน่ใจว่าโมเดลไม่เข้าถึงระบบทางเทคนิคในแบบที่ไม่ได้ตั้งใจ มีทีมภายในคอยดูแลให้การควบคุมเหล่านั้นได้ผลและแก้ไขปัญหา ร่วมมือกับ "ผู้ตรวจสอบหรือผู้ประเมินภายนอกที่เป็นอิสระ" และแต่งตั้ง "คณะกรรมการอิสระของคณะกรรมการบริษัท" เพื่อกำกับดูแลการควบคุมและผู้ตรวจสอบ Trump เรียกข้อตกลงนี้ว่า "ผูกพันทางศีลธรรม" และ "เกือบเหมือนรัฐธรรมนูญในแง่หนึ่ง" MercoPress ระบุว่าข้อตกลงไม่ได้กำหนดผลที่ตามมาสำหรับการละเมิด และอ้างคำของ Kimberlee Weatherall ศาสตราจารย์จาก University of Sydney ที่เรียกมันว่า "ไม่น่าประทับใจอย่างยิ่ง"

เมื่อวันที่ 15 ตุลาคม Anthropic เผยแพร่ An update on independent evaluators ระบุว่าได้ให้ทีมจาก METR องค์กรไม่แสวงกำไรที่ประเมินโมเดลแนวหน้า มีสิทธิ์เข้าถึงเทียบเท่าพนักงาน: เจ้าหน้าที่ METR หกคนได้รับการเตรียมความพร้อมพร้อมฮาร์ดแวร์และเครื่องมือภายในของบริษัท ซึ่งโดยรวมเทียบเท่ากับทีมความเสี่ยงของ Anthropic เอง METR จะเผยแพร่ผลการประเมินความเสี่ยง Anthropic ระบุว่าไม่สามารถยับยั้งการเผยแพร่เหล่านั้นได้ แม้จะกำหนดให้ปิดบังข้อมูลบางหมวดที่กำหนดไว้ล่วงหน้า เช่น ทรัพย์สินทางปัญญาที่เป็นความลับ Anthropic เปรียบโมเดลนี้กับการที่ผู้กำกับดูแลธนาคารส่งผู้ตรวจสอบเข้าไปประจำในธนาคารขนาดใหญ่ และระบุว่าบริษัท AI แนวหน้าทุกแห่งควรทำเช่นเดียวกัน

ทำไมเรื่องนี้จึงสำคัญ

ข้อตกลงนี้บาง และผู้วิจารณ์ก็พูดถูกว่าข้อความโดยสมัครใจที่ไม่มีผลที่ตามมาไม่รับประกันอะไรเลย แต่คำมั่นเรื่องผู้ประเมินอิสระเป็นจุดยึดที่มีประโยชน์ เพราะตรวจสอบได้ บริษัทหนึ่งจะมีผู้ประเมินภายนอกที่มีสิทธิ์เข้าถึงจริงและมีอิสระในการเผยแพร่ หรือไม่มีก็ตาม

การจัดการของ Anthropic ตั้งเกณฑ์ที่มองเห็นได้: การเข้าถึงเชิงลึก สิทธิ์ในการเผยแพร่ และขีดจำกัดที่ชัดเจนในการปิดบังข้อมูล ตอนนี้บริษัทอื่นสามารถถูกเปรียบเทียบกับเกณฑ์นี้ได้ นั่นคือวิธีที่คำมั่นโดยสมัครใจกลายเป็นบรรทัดฐาน

งานวิจัยของผมบอกอะไร

สาขาวิจัยของผม คือ AI ที่อธิบายได้สำหรับการตลาด ตั้งอยู่บนหลักการเดียวกันในระดับที่เล็กกว่า: ข้อกล่าวอ้างว่าโมเดลทำอะไรควรตรวจสอบได้โดยคนอื่นที่ไม่ใช่เจ้าของโมเดล ใน Against Opacity (ACM Multimedia 2023) และ MindFuse (ACM Multimedia 2025) ชั้นคำอธิบายมีไว้เพื่อให้นักการตลาดตรวจสอบได้ว่าทำไมจึงมีการคาดการณ์เช่นนั้น แทนที่จะเชื่ออย่างไม่มีหลักฐาน

ผมเคยเสนอใน Forbes ว่าความโปร่งใสสำคัญต่อบริษัทที่ขับเคลื่อนด้วยการตลาด ตอนนี้ห้องแล็บแนวหน้ากำลังมาบรรจบกันที่รูปแบบหนึ่งของหลักการนั้นเพื่อความปลอดภัย: การควบคุมภายใน ทีมภายใน ผู้ประเมินภายนอก และการกำกับดูแลโดยคณะกรรมการ AI เพื่อการตลาดไม่ได้มีความเสี่ยงระดับหายนะแบบเดียวกัน แต่ก็มีความเสี่ยงจริง: การกำหนดเป้าหมายที่มีอคติ ข้อกล่าวอ้างที่ทำให้เข้าใจผิด การละเมิดความเป็นส่วนตัว งบประมาณที่ใช้ไปกับสัญญาณที่ผิด โครงสร้างสี่ชั้นเดียวกันนี้ย่อส่วนลงมาใช้ได้ดี

โมเดลสี่ชั้นสำหรับธรรมาภิบาล AI เพื่อการตลาด

• การควบคุมภายใน เฝ้าติดตามว่าระบบ AI ของคุณทำอะไร: มุ่งเป้ากลุ่มใด สร้างข้อกล่าวอ้างใด ใช้ข้อมูลใด
• ผู้รับผิดชอบภายใน แต่งตั้งบุคคลหรือทีมที่รับผิดชอบตรวจสอบการควบคุมเหล่านั้นและแก้ไขปัญหา
• สายตาจากภายนอก ให้ฝ่ายที่เป็นอิสระ เช่น ผู้ตรวจสอบ พันธมิตรด้านการวิจัย หรือผู้ขายรายที่สอง ทดสอบโมเดลและข้อกล่าวอ้างสำคัญของคุณเป็นระยะ
• การกำกับดูแลระดับสูง รายงานความเสี่ยงด้าน AI ต่อผู้บริหารแบบเดียวกับที่รายงานความเสี่ยงทางการเงิน พร้อมอำนาจในการระงับระบบ

เมื่อคุณซื้อ AI เพื่อการตลาด ให้ถามผู้ขายคำถามเดียวกับที่ข้อตกลงนี้ยกขึ้นมา ใครประเมินโมเดลของคุณจากภายนอก? พวกเขามีสิทธิ์เข้าถึงอะไร? พวกเขาเผยแพร่สิ่งที่พบได้หรือไม่? คำตอบจะบอกคุณได้มากกว่ารายการฟีเจอร์

คำถามที่พบบ่อย