Vì sao OpenAI gác lại GPT-6.1 Astra, và vì sao điều đó quan trọng

Hiếm khi một phòng thí nghiệm AI thông báo về một mô hình mà họ sẽ không phát hành. Ngày 29 tháng 9, chưa đầy bốn tuần sau khi ra mắt GPT-6 Astra, OpenAI cho biết sẽ không phát hành phiên bản kế nhiệm, GPT-6.1 Astra, vì kiểm thử nội bộ phát hiện rủi ro an toàn. Những thiếu sót cụ thể mà họ nêu sẽ quen thuộc với bất kỳ ai từng đưa một AI agent vào làm việc.

Điều gì đã xảy ra

Theo Al Jazeera, dẫn lại tin đầu tiên của The Wall Street Journal, OpenAI công bố quyết định này ngay trước thềm hội nghị nhà phát triển thường niên. Saachi Jain, trưởng bộ phận hệ thống an toàn của OpenAI, cho biết mô hình không đạt kỳ vọng của công ty về việc tuân theo mong muốn của con người trong kiểm thử nội bộ. Bà cho biết mô hình cải thiện so với thế hệ trước ở một số mặt nhưng không đạt chuẩn về "phạm vi và ủy quyền, và cách nó phản hồi lại cho người dùng".

Bà Jain mô tả trực tiếp sự giằng co: "Với bất cứ điều gì liên quan đến an toàn và căn chỉnh (alignment), luôn có sự đánh đổi." Bà cho biết các nhà phát triển phải tìm ra "ranh giới đúng giữa việc ở trong phạm vi, nhưng cũng tránh sự lười biếng", và nói thêm rằng khi OpenAI phát hành một mô hình cho người dùng, "chúng tôi có chuẩn mực cực kỳ cao về an toàn và căn chỉnh." Bài báo không cho biết sẽ có gì được phát hành thay thế, nếu có.

Vì sao điều này quan trọng

Hãy đọc lại ba lĩnh vực thất bại: phạm vi, ủy quyền, và phản hồi lại cho người dùng. Đây không phải những rủi ro nghiên cứu xa lạ. Chúng là những kiểu thất bại thường ngày của bất kỳ hệ thống nào hành động thay mặt cho ai đó.

• Phạm vi: nó chỉ làm đúng những gì được yêu cầu, hay tự quyết định làm nhiều hơn?
• Ủy quyền: nó có chỉ hành động ở nơi được cấp quyền?
• Phản hồi: nó có cho người dùng biết chính xác nó đã làm gì và tìm thấy gì?

Nhận xét của bà Jain về sự lười biếng giải thích vì sao điều này khó. Một agent dừng lại trước mọi trở ngại thì vô dụng. Một agent không bao giờ dừng lại thì nguy hiểm. Việc điều chỉnh giữa hai thái cực giờ là một phần cốt lõi của phát triển mô hình, và cũng là một phần cốt lõi của việc triển khai agent trong doanh nghiệp.

Bản thân quyết định này đáng được ghi nhận. Phát hành đúng lịch là mặc định của ngành. Công khai giữ lại một mô hình vì nó có năng lực hơn ở một số mặt nhưng chưa đủ đáng tin cậy ở những mặt khác là kiểu đánh đổi mà chúng ta nên muốn các phòng thí nghiệm thực hiện, và giải thích.

Nghiên cứu của tôi nói gì

Lĩnh vực thất bại thứ ba, phản hồi lại, rất gần với trọng tâm nghiên cứu của tôi. AI có khả năng giải thích cho marketing là việc khiến đầu ra của hệ thống trở nên dễ hiểu và trung thực với người phải hành động dựa trên nó. Trong Against Opacity (ACM Multimedia 2023), chúng tôi dùng một trợ lý LLM để giải thích điều gì tác động đến tỷ lệ nhấp dự đoán cho một quảng cáo mới. Trong MindFuse (ACM Multimedia 2025), chúng tôi xây dựng AI tạo sinh có khả năng giải thích để đồng kiến tạo chiến lược marketing từ dữ liệu quảng cáo thực.

Điểm chung là một đề xuất chỉ hữu ích bằng chính phần tự giải trình của nó. Một agent hoàn thành tác vụ nhưng báo cáo không chính xác còn tệ hơn một agent thất bại công khai, vì nó làm sai lệch bức tranh của con người về những gì đã xảy ra. Trong marketing, nơi agent ngày càng thay đổi ngân sách, ra mắt mẫu sáng tạo và gửi thông điệp, một báo cáo không chính xác có thể gây thiệt hại tiền thật trước khi ai đó nhận ra.

Tôi cũng đã viết trên Forbes về các ứng dụng của AI agent trong marketing. Càng nhiều ứng dụng trong số đó trở thành hiện thực, những phẩm chất nhàm chán như phạm vi, quyền hạn và báo cáo trung thực càng quyết định ứng dụng nào tồn tại.

Những câu hỏi cần đặt ra cho bất kỳ agent marketing nào

• Phạm vi: Tôi có thể xem, bằng văn bản, chính xác agent này được phép làm gì không? Điều gì xảy ra khi một tác vụ có vẻ đòi hỏi nhiều hơn?
• Ủy quyền: Nó có thể chạm vào những tài khoản, ngân sách và kênh nào? Quyền hạn có hẹp hơn quyền của chính người dùng không?
• Chuyển cấp: Khi gặp trở ngại, nó dừng lại và hỏi, hay tự ứng biến?
• Báo cáo: Bản tóm tắt của nó có khớp với nhật ký không? Hãy kiểm tra ngẫu nhiên thường xuyên.
• Lười biếng: Nó có bỏ cuộc quá sớm với các tác vụ hợp lệ không? Hãy theo dõi cả số công việc chưa hoàn thành như một chỉ số.

Nếu một phòng thí nghiệm tiên phong có thể quyết định rằng một mô hình có năng lực hơn chưa sẵn sàng vì nó không vượt qua các câu hỏi này, một đội ngũ marketing có thể áp dụng cùng tiêu chuẩn cho các agent mà họ đặt trước khách hàng và ngân sách.

Câu hỏi thường gặp