Claude Haiku 5.5 và lý lẽ cho mô hình nhỏ trong marketing

Mỗi lần ra mắt mô hình đều bị đo so với mô hình lớn nhất hiện có. Tôi cho rằng đó là lăng kính sai cho phần lớn công việc marketing. Ngày 7 tháng 10, Anthropic phát hành Claude Haiku 5.5, và phần thú vị không phải là nó tiến gần đến mức tiên phong đến đâu. Mà là chi phí để chạy nó một triệu lần.

Điều gì đã xảy ra

Anthropic gọi Haiku 5.5 là mô hình nhỏ rẻ nhất, nhanh nhất và có năng lực cao nhất mà công ty từng phát hành. Mô hình hướng tới công việc khối lượng lớn, nhạy cảm về chi phí: tóm tắt, phân loại, truy vấn cơ sở dữ liệu, hỗ trợ khách hàng trực tiếp, sử dụng trình duyệt và làm subagent bên cạnh các mô hình lớn hơn Opus 5.5 và Sonnet 5.5. Đây là mô hình hạng Haiku đầu tiên có thiết lập mức nỗ lực điều chỉnh được, để người dùng cân bằng giữa chi phí và trí thông minh. Anthropic nói rõ rằng Sonnet 5.5 và Opus 5.5 vẫn tốt hơn cho lập trình agent phức tạp.

Giá cả là tiêu điểm. Với prompt lên đến 100.000 token, Anthropic niêm yết 0,10 US$ cho mỗi triệu token đầu vào và 0,50 US$ cho mỗi triệu token đầu ra, và cho biết Haiku 5.5 rẻ hơn khoảng 75% so với Haiku 4.5 tính trung bình. Trang ra mắt cũng có các báo cáo từ khách hàng; chẳng hạn HubSpot cho biết mô hình đạt 92,8% trên bộ đánh giá CRM của họ. Đó là số liệu của công ty và khách hàng, không phải kiểm thử độc lập.

Vì sao điều này quan trọng

AI marketing là một ngành kinh doanh khối lượng. Một chiến dịch có thể liên quan đến hàng nghìn biến thể sáng tạo, hàng chục nghìn bình luận cần phân loại, nguồn cấp sản phẩm với hàng trăm nghìn dòng, và báo cáo hằng ngày trên hàng chục thị trường. Gần như không việc nào trong số đó cần mô hình mạnh nhất hiện có. Chúng cần một mô hình đủ tốt, nhanh, dễ dự đoán và đủ rẻ để chạy trên mọi thứ.

Khi mô hình nhỏ vừa tốt hơn nhiều vừa rẻ hơn nhiều cùng lúc, kinh tế học của những gì bạn tự động hóa thay đổi. Những tác vụ từng quá đắt để chạy trên từng mục, như gắn thẻ mọi quảng cáo của đối thủ hay tóm tắt mọi đánh giá của khách hàng, trở thành việc thường nhật. Và kiến trúc cũng thay đổi: một mô hình lớn lập kế hoạch và đánh giá, các mô hình nhỏ làm công việc lặp lại bên dưới. Chính mô tả của Anthropic về Haiku như một subagent là đúng mô thức đó.

Nghiên cứu của tôi nói gì

Tôi đã lập luận điều này từ lâu. Trên Forbes, tôi từng đặt câu hỏi liệu lớn hơn có tốt hơn, và sau đó so sánh LLM và mạng nơ-ron nhỏ trong marketing. Câu trả lời của tôi không thay đổi: quy mô mô hình ít quan trọng hơn nhiều so với kỹ thuật và mức độ phù hợp với tác vụ.

Nghiên cứu của chúng tôi luôn kết hợp hai loại mô hình thay vì chọn một. Trong SoCraft (WSDM 2023), chúng tôi trình diễn một mô hình đa phương thức chấm điểm các mẫu quảng cáo Meta của nhà quảng cáo, sử dụng văn bản, hình ảnh, nhắm mục tiêu và thiết lập, trước khi ra mắt. Trong Fusing Predictive and Large Language Models for Actionable Recommendations in Creative Marketing (ACM Transactions on Information Systems, 2025), chúng tôi kết hợp các mô hình dự đoán hiệu quả quảng cáo với LLM, để điểm số sáng tạo trở thành một đề xuất mà marketer có thể hành động.

Bài học từ công trình đó là các mô hình chuyên biệt, hiệu quả đảm nhận việc đo lường và các mô hình ngôn ngữ lớn đảm nhận việc giải thích. Một LLM nhỏ rẻ hơn, năng lực cao hơn không thay thế bộ dự đoán chuyên biệt. Nó giúp lớp giải thích và điều phối trở nên khả thi về chi phí ở quy mô mà marketing thực sự diễn ra.

Tôi sẽ dùng một mô hình như thế này như thế nào

• Phân loại với độ phủ toàn bộ. Gắn thẻ mọi bài đăng của đối thủ, mọi đánh giá, mọi quảng cáo trong ngành hàng của bạn theo chủ đề, ưu đãi và định dạng, thay vì lấy mẫu.
• Tóm tắt bước đầu. Biến các báo cáo dài, bản ghi và chuỗi bình luận thành các bản tóm lược ngắn để một người, hoặc một mô hình lớn hơn, xem xét.
• Subagent trong một pipeline. Để một mô hình lớn hơn lập kế hoạch phân tích đối thủ và giao các bước trích xuất lặp lại cho mô hình nhỏ.
• Tốc độ khi phục vụ khách hàng. Dùng mô hình nhanh ở nơi độ trễ quan trọng, như chat trực tiếp, và chuyển các trường hợp khó cho một mô hình mạnh hơn hoặc cho con người.

Marketer nên kiểm tra gì trước khi chuyển đổi

• Tự chạy đánh giá. Benchmark của nhà cung cấp không phải tác vụ của bạn. Lấy 200 ví dụ thực tế từ công việc, gắn nhãn, và so sánh các mô hình trên bộ dữ liệu đó.
• Theo dõi chi phí mỗi tác vụ, không phải chi phí mỗi token. Anthropic lưu ý rằng Haiku 5.5 dùng một tokenizer mới và nhiều token hơn một chút cho mỗi tác vụ. Hóa đơn phụ thuộc vào toàn bộ quy trình.
• Dùng thiết lập mức nỗ lực một cách có chủ đích. Mặc định mức nỗ lực thấp cho gắn thẻ đơn giản và chỉ tăng lên ở nơi đánh giá của bạn cho thấy chất lượng được cải thiện.
• Giữ các mô hình chuyên biệt ở nơi chúng tốt hơn. Nếu bạn đã có một mô hình được huấn luyện trên dữ liệu hiệu quả của chính mình, LLM nên giải thích đầu ra của nó, không thay thế nó.

Các mô hình tiên phong chiếm trọn tiêu đề. Còn mô hình nhỏ là nơi phần lớn công việc, và phần lớn khoản tiết kiệm, sẽ diễn ra.

Câu hỏi thường gặp