Thỏa thuận AI của Nhà Trắng và các bên đánh giá độc lập

Các cam kết tự nguyện từ công ty AI có lịch sử lẫn lộn. Một số bị lãng quên trong vòng một năm. Điều khiến cam kết mới nhất trở nên thú vị không phải là nghi lễ tại Nhà Trắng mà là một ý tưởng cụ thể bên trong nó: các bên đánh giá độc lập. Hai tuần sau, một phòng thí nghiệm đã cho thấy điều đó có thể trông như thế nào trong thực tế.

Điều gì đã xảy ra

Theo Forbes, ngày 29 tháng 9, Tổng thống Trump và người đứng đầu một số công ty công nghệ đã ký "White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities", một văn bản chỉ hơn 300 từ. Những người ký được liệt kê gồm Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai và chủ tịch OpenAI Greg Brockman, cùng với tổng thống.

Forbes tóm tắt bốn cam kết cho các công ty huấn luyện và triển khai mô hình tiên phong: duy trì các biện pháp kiểm soát nội bộ để giám sát năng lực và mức độ căn chỉnh của mô hình, bao gồm đảm bảo mô hình không truy cập hệ thống kỹ thuật theo những cách ngoài ý muốn; có một đội ngũ nội bộ đảm bảo các biện pháp kiểm soát đó hoạt động và các vấn đề được khắc phục; hợp tác với một "bên kiểm toán hoặc đánh giá độc lập bên ngoài"; và chỉ định một "ủy ban độc lập của hội đồng quản trị" để giám sát các biện pháp kiểm soát và các bên kiểm toán. Ông Trump gọi thỏa thuận là "ràng buộc về mặt đạo đức" và "ở một khía cạnh nào đó gần giống như một bản hiến pháp". MercoPress lưu ý rằng văn bản không quy định hậu quả nào cho việc vi phạm và trích lời giáo sư Kimberlee Weatherall của Đại học Sydney gọi nó là "hết sức kém ấn tượng".

Ngày 15 tháng 10, Anthropic công bố An update on independent evaluators. Công ty cho biết đã cấp cho một nhóm từ METR, một tổ chức phi lợi nhuận chuyên đánh giá các mô hình tiên phong, quyền truy cập như nhân viên: sáu nhân viên METR được tiếp nhận với phần cứng và công cụ nội bộ của công ty, về cơ bản ngang bằng với các đội ngũ rủi ro của chính Anthropic. METR sẽ công bố các đánh giá rủi ro của mình; Anthropic cho biết họ không thể phủ quyết các công bố đó, dù có thể yêu cầu biên tập lược bỏ các hạng mục được xác định trước như IP bảo mật. Anthropic so sánh mô hình này với việc cơ quan giám sát ngân hàng đặt thanh tra viên bên trong các ngân hàng lớn, và cho rằng mọi công ty AI tiên phong nên làm điều tương tự.

Vì sao điều này quan trọng

Thỏa thuận này khá mỏng, và giới phê bình đúng khi cho rằng một văn bản tự nguyện không có hậu quả thì không đảm bảo điều gì. Nhưng cam kết về bên đánh giá độc lập là một điểm tựa hữu ích, vì nó có thể kiểm chứng được. Hoặc một công ty có bên đánh giá bên ngoài với quyền truy cập thực sự và quyền tự do công bố, hoặc không.

Thỏa thuận của Anthropic đặt ra một chuẩn mực rõ ràng: quyền truy cập sâu, quyền công bố và giới hạn rõ ràng về việc biên tập lược bỏ. Các công ty khác giờ có thể được so sánh với chuẩn mực đó. Đó là cách các cam kết tự nguyện trở thành chuẩn mực.

Nghiên cứu của tôi nói gì

Lĩnh vực nghiên cứu của tôi, AI có khả năng giải thích cho marketing, dựa trên cùng nguyên tắc ở quy mô nhỏ hơn: tuyên bố về những gì một mô hình làm phải có thể được kiểm chứng bởi người khác ngoài chủ sở hữu mô hình. Trong Against Opacity (ACM Multimedia 2023) và MindFuse (ACM Multimedia 2025), lớp giải thích tồn tại để marketer có thể kiểm tra vì sao một dự đoán được đưa ra thay vì tin một cách mù quáng.

Tôi đã lập luận trên Forbes rằng minh bạch quan trọng với các công ty định hướng marketing. Các phòng thí nghiệm tiên phong giờ đang hội tụ về một phiên bản của điều đó cho an toàn: kiểm soát nội bộ, đội ngũ nội bộ, bên đánh giá bên ngoài, giám sát của hội đồng quản trị. AI marketing không mang những rủi ro thảm khốc như vậy, nhưng có những rủi ro thực sự: nhắm mục tiêu thiên lệch, tuyên bố gây hiểu lầm, vi phạm quyền riêng tư, ngân sách chi vào tín hiệu sai. Cấu trúc bốn tầng tương tự có thể thu nhỏ rất tốt.

Mô hình bốn tầng cho quản trị AI marketing

• Kiểm soát nội bộ. Giám sát những gì hệ thống AI của bạn làm: chúng nhắm đến đối tượng nào, tạo ra tuyên bố nào, sử dụng dữ liệu nào.
• Người phụ trách nội bộ. Chỉ định một người hoặc một nhóm chịu trách nhiệm kiểm tra các biện pháp kiểm soát đó và khắc phục vấn đề.
• Góc nhìn bên ngoài. Có một bên độc lập, như kiểm toán viên, đối tác nghiên cứu hay một nhà cung cấp thứ hai, định kỳ kiểm thử các mô hình và tuyên bố chính của bạn.
• Giám sát cấp cao. Báo cáo rủi ro AI lên ban lãnh đạo như cách bạn báo cáo rủi ro tài chính, với thẩm quyền tạm dừng một hệ thống.

Khi mua AI marketing, hãy hỏi nhà cung cấp những câu hỏi mà thỏa thuận đặt ra. Ai đánh giá mô hình của bạn từ bên ngoài? Họ có quyền truy cập gì? Họ có thể công bố những gì họ phát hiện không? Câu trả lời sẽ cho bạn biết nhiều hơn một danh sách tính năng.

Câu hỏi thường gặp