Tấn công chưng cất: Mô hình AI bị sao chép có ý nghĩa gì với bạn

"Chưng cất" (distillation) từng là một từ lịch sự trong học máy. Nó mô tả việc huấn luyện một mô hình nhỏ để bắt chước một mô hình lớn, một kỹ thuật chuẩn mực và hữu ích. Trong tháng 9 và tháng 10/2026, nó đã trở thành câu chuyện về an ninh và thương mại. Nếu bạn mua hoặc xây dựng AI cho marketing, bạn nên hiểu cả hai nghĩa.

Điều gì đã xảy ra

Đầu tháng 9, CISA, NSA và FBI công bố một khuyến cáo chung về điều họ mô tả là hoạt động chưng cất tri thức quy mô công nghiệp của các công ty AI có trụ sở tại Trung Quốc. Theo bài tường thuật của Help Net Security về khuyến cáo này, các cơ quan đã nêu tên DeepSeek, Moonshot AI, Alibaba Group, MiniMax, StepFun và Z.AI, và cho biết các công ty này đã trích xuất hàng tỷ token thông qua hàng triệu yêu cầu gửi đến các mô hình tiên phong của Mỹ, ít nhất từ cuối năm 2024. Khuyến cáo liệt kê các tín hiệu phát hiện, chẳng hạn mức sử dụng liên tục suốt ngày đêm không có thời gian nghỉ của con người và các nhóm tài khoản hoạt động phối hợp, đồng thời khuyến nghị tăng cường xác minh danh tính, giám sát và chia sẻ thông tin giữa các nhà cung cấp AI. Bài tường thuật lưu ý rằng nó không bao gồm phát biểu từ các công ty bị nêu tên.

Ngày 12 tháng 10, Anthropic mô tả phản ứng của chính mình. Trong Strengthening our defenses against distillation attacks, công ty cho biết bằng chứng ban đầu cho thấy các phương pháp của họ đã giảm khoảng 90 đến 99% lượng dữ liệu bị bên chưng cất thu thập. Các biện pháp bao gồm ngăn tài khoản API mới chỉnh sửa phần suy luận trước đó của Claude, một bộ phân loại hai giai đoạn được huấn luyện trên các nỗ lực trích xuất với tỷ lệ dương tính giả dưới 0,1%, giới hạn chặt hơn và cấm tài khoản khi cố tình lặp lại, cùng việc tính phí cho các yêu cầu bị cơ chế bảo vệ chặn. Anthropic cho biết đã cấm hàng chục nghìn tài khoản liên quan đến chưng cất và dự kiến một "trò mèo vờn chuột" kéo dài.

Vì sao điều này quan trọng

Có hai lý do khiến marketer nên quan tâm đến cuộc chiến giữa các phòng thí nghiệm AI.

Thứ nhất là rủi ro chuỗi cung ứng. Nếu một mô hình được xây dựng bằng cách sao chép hành vi của mô hình khác mà không được phép, bạn không biết những cơ chế bảo vệ nào đi kèm với nó. Bài đăng của Anthropic lập luận rằng mô hình chưng cất có thể tiệm cận năng lực tiên phong trong khi được phát hành với lớp bảo vệ yếu hơn. Khi bạn chọn mô hình để vận hành dịch vụ khách hàng hay tạo quảng cáo, nguồn gốc là một phần của chất lượng.

Thứ hai là sự phiền phức cho người dùng hợp pháp. Phòng vệ luôn có chi phí. Anthropic thừa nhận rằng một số nhà phát triển đã phải cập nhật tích hợp, một tỷ lệ nhỏ yêu cầu vô hại có thể bị chặn, và các yêu cầu bị chặn nay có thể bị tính phí. Nếu hệ thống marketing của bạn thực hiện nhiều lệnh gọi tự động đến một API tiên phong, một phần lưu lượng đó có thể trông giống một chiến dịch trích xuất. Hãy đọc chính sách của nhà cung cấp ngay bây giờ, đừng đợi đến khi pipeline của bạn gặp sự cố.

Nghiên cứu của tôi nói gì

Chưng cất không phải là kẻ phản diện ở đây. Khi được thực hiện hợp pháp, đó là cách chúng ta làm cho AI có giá phải chăng. Mô hình lớn dạy mô hình nhỏ; mô hình nhỏ chạy với chi phí thấp ở quy mô lớn. Tôi đã lập luận trên Forbes rằng trong marketing, kỹ thuật quan trọng hơn quy mô mô hình, và chưng cất là một trong những kỹ thuật đó.

Điều làm thay đổi bức tranh là sự đồng thuận và minh bạch. Nghiên cứu của tôi về AI có khả năng giải thích bắt đầu từ một nguyên tắc đơn giản: marketer phải có thể thấy vì sao hệ thống đề xuất một điều gì đó. Trong Against Opacity (ACM Multimedia 2023), chúng tôi kết hợp dự đoán tỷ lệ nhấp với một trợ lý LLM giải thích các yếu tố tác động. Trong SOMONITOR (một bản tiền ấn phẩm năm 2024), chúng tôi mô tả việc kết hợp các mô hình hiệu quả có khả năng giải thích với LLM để phân tích đối thủ. Lời giải thích chỉ có ý nghĩa nếu bạn biết mô hình là gì và đến từ đâu.

Cũng có một nghịch lý đáng chú ý. Biện pháp phòng vệ mà Anthropic mô tả, tức tóm tắt hoặc hạn chế truy cập vào toàn bộ phần suy luận của mô hình, khiến hệ thống kém minh bạch hơn một chút với tất cả mọi người, vì phần suy luận chính là thứ bên sao chép muốn có. Sự đánh đổi này sẽ định hình mức độ giải thích mà các nhà cung cấp AI sẵn lòng công khai. Bên mua nên yêu cầu những lời giải thích được thiết kế cho chính họ, về dữ liệu và quyết định của họ, thay vì các vết suy luận thô.

Bên mua AI marketing nên làm gì ngay bây giờ

• Hỏi mọi nhà cung cấp xem những mô hình nào nằm bên dưới sản phẩm của họ và các mô hình đó đến từ đâu.
• Kiểm tra điều khoản của các API bạn gọi. Sử dụng tự động, khối lượng lớn là bình thường trong marketing; hãy đảm bảo việc sử dụng của bạn rõ ràng là hợp pháp, được định danh và nằm trong giới hạn.
• Lên kế hoạch cho việc chuyển đổi mô hình. Chính sách, giá cả và quyền truy cập có thể thay đổi nhanh chóng. Giữ prompt, quy trình và bộ dữ liệu đánh giá ở dạng có thể mang theo.
• Chưng cất mô hình của riêng bạn một cách hợp pháp. Nếu cần một mô hình rẻ cho một tác vụ hẹp, hãy huấn luyện nó trên dữ liệu của chính bạn hoặc trên đầu ra mà bạn được cấp phép sử dụng.
• Ưu tiên lời giải thích về quyết định hơn việc công khai cơ chế bên trong. Điều bạn cần kiểm tra là vì sao một đề xuất được đưa ra cho chiến dịch của bạn.

Cuộc chiến chưng cất xoay quanh việc ai được phép sao chép ai. Với marketer, đó là lời nhắc rằng "mô hình nào?" giờ đây là câu hỏi quản trị, không chỉ là câu hỏi kỹ thuật.

Câu hỏi thường gặp