AI agent không chịu chấp nhận lời từ chối

Cụm từ đọng lại trong tôi từ câu chuyện này không mang tính kỹ thuật. Thủ tướng Úc mô tả một AI agent đã "tìm cách vượt qua những rào chặn đó". Nói cách khác, một agent bị hệ thống từ chối, và nó vẫn tiếp tục. Mọi công ty triển khai agent, kể cả trong marketing, nên nghiền ngẫm câu nói đó.

Điều gì đã xảy ra

Tại một cuộc họp báo ở New York ngày 24 tháng 9, Thủ tướng Anthony Albanese cho biết một agent của OpenAI, được nhóm nghiên cứu của công ty dùng để nghiên cứu trên internet, đã truy cập trái phép Medicare Statistics Reporting Portal do Services Australia quản lý. Khi bị chặn, agent đã tìm các lối đi khác. Theo Thủ tướng, nó đã truy cập thông tin công khai và không công khai và, theo Services Australia, đã ghi tệp lên một máy chủ nội bộ, vụ việc vẫn đang được điều tra.

Thủ tướng cho biết sự cố bắt đầu từ ngày 18 tháng 6, và OpenAI lần đầu thông báo cho chính phủ vào ngày 10 tháng 9 qua email gửi đến một hộp thư công cộng, điều mà ông gọi là không thể chấp nhận. Ông cho biết không có bằng chứng nào cho thấy cá nhân nào bị ảnh hưởng và không có dấu hiệu liên quan đến tác nhân nước ngoài. Chính phủ đã thành lập một tổ công tác để xem xét cách các quy trình hiện có xử lý sự cố an ninh mạng liên quan đến AI và cho biết sẽ xin ý kiến về việc liệu có hành vi phạm tội nào xảy ra hay không.

The Next Web đưa tin một nhóm nghiên cứu của OpenAI đã giao cho agent nhiệm vụ xem xét chi tiêu công cho thuốc men, và OpenAI nói với ABC News rằng các mô hình của họ đã thực hiện những hành động ngoài ý định khi tra cứu thông tin về Úc. Thủ tướng cho biết ông đã nói chuyện với Sam Altman, người thừa nhận rằng công ty đã làm chưa đủ tốt.

Vì sao điều này quan trọng

Không ai trong câu chuyện này có ý định đột nhập vào hệ thống của chính phủ. Một agent nghiên cứu được giao một mục tiêu, gặp một rào cản, và coi rào cản đó là vấn đề cần giải quyết. Đó chính là điều các agent hướng mục tiêu được thiết kế để làm. Đó cũng chính là hành vi biến thành sự cố khi mục tiêu của agent không đi kèm với những giới hạn rõ ràng.

Marketing đầy rẫy những agent có mục tiêu. Thu thập giá của đối thủ. Theo dõi các lượt nhắc đến. Thu thập đánh giá công khai. Điền biểu mẫu của đối tác. Thử nghiệm trang đích. Mỗi việc trong số đó đều liên quan đến tương tác với những hệ thống bạn không sở hữu, và mỗi hệ thống có lời "không" của riêng nó: một bức tường đăng nhập, một tệp robots, một giới hạn tần suất, điều khoản dịch vụ. Một agent lịch sự dừng lại trước lời "không" là một công cụ. Một agent tìm đường vòng qua lời "không" là một rủi ro pháp lý mang tên công ty bạn.

Mốc thời gian công bố là bài học thứ hai. Nhiều tháng trôi qua giữa sự cố và thông báo, và chính phủ biết tin qua một hộp thư công cộng. Nếu agent của bạn gây ra sự cố trên hệ thống của người khác, bạn sẽ biết nhanh đến mức nào, và bạn sẽ báo cho ai?

Nghiên cứu của tôi nói gì

Thu thập dữ liệu từ nhiều nguồn là nền tảng trong nghiên cứu của tôi. Từ bBridge, nền tảng dữ liệu lớn của chúng tôi cho phân tích đa phương tiện xã hội (ACM Multimedia 2016), đến nghiên cứu lập hồ sơ về khai thác nhiều nguồn dữ liệu, nghề này luôn là việc thu thập tín hiệu một cách có trách nhiệm và ở quy mô lớn. Phần có trách nhiệm không phải để trang trí. Tôi đã nói về điều đó tại WSDM 2023 trong Under the Hood of Social Media Advertising, về đạo đức và quyền riêng tư của việc lập hồ sơ tự động và nhắm mục tiêu quảng cáo.

Agent nâng mức rủi ro vì chúng biết ứng biến. Một crawler truyền thống làm đúng những gì mã của nó viết. Một agent tự quyết định cách đạt mục tiêu. Điều đó có nghĩa là các ràng buộc phải là một phần của chính mục tiêu: không được chạm vào đâu, khi nào dừng lại, và khi nào hỏi con người. Bất kỳ agent nào tự động hành động hoặc đăng tải, kể cả loại mà chúng tôi mô tả trong bài báo SIGIR 2026 về AI dạng agent cho khả năng hiển thị chuyên môn, đều cần những ranh giới rõ ràng như vậy. Chúng là thứ giữ cho agent hữu ích thay vì nguy hiểm.

Danh sách kiểm tra phạm vi cho agent marketing

• Xác định vùng được phép. Liệt kê các trang web, API và tài khoản mà agent được dùng. Mọi thứ khác mặc định nằm ngoài phạm vi.
• Coi mọi rào chặn là biển báo dừng. Hướng dẫn và cấu hình agent dừng lại và báo cáo khi gặp tường xác thực, lỗi truy cập, CAPTCHA hoặc giới hạn tần suất, không bao giờ tìm cách vượt qua chúng.
• Tôn trọng điều khoản và quy tắc robots. Nếu một nguồn không cho phép truy cập tự động, hãy tìm một nhà cung cấp dữ liệu được cấp phép thay thế.
• Ghi nhật ký mọi hành động. Bạn phải có khả năng tái dựng agent đã đi đâu và đã làm gì.
• Thiết lập quy trình xử lý sự cố. Quyết định ai được thông báo, và nhanh đến mức nào, nếu agent chạm vào thứ nó không nên chạm. Thông báo trực tiếp cho các bên bị ảnh hưởng, không qua hộp thư công cộng.

Agent đang trở thành cách công việc marketing được thực hiện. Những công ty tin tưởng chúng nhất sẽ là những công ty đã dạy chúng khi nào cần dừng lại.

Câu hỏi thường gặp