Quy định AI nay coi tin đồn thương mại giả như gian lận bầu cử

Trong nhiều năm, cuộc thảo luận về AI và thao túng xoay quanh bầu cử. Sự tập trung đó là hợp lý. Nhưng chính những kỹ thuật dùng để giả mạo một phong trào chính trị cũng có thể giả mạo mức độ được ưa chuộng của một sản phẩm. Vào tháng 10, Anthropic đã làm rõ mối liên hệ đó trong quy định của mình, và marketer nên hiểu đó cũng là một ranh giới được vạch ra về phía họ.

Điều gì đã xảy ra

Ngày 8 tháng 10, Anthropic công bố bản cập nhật Chính sách sử dụng năm 2026, có hiệu lực từ ngày 12 tháng 11. Bản cập nhật bổ sung một mục có tên "Do Not Engage in Deceptive Campaigns or Artificial Activity" (Không tham gia các chiến dịch lừa dối hoặc hoạt động nhân tạo), hợp nhất các quy định trước đây nằm rải rác trong các mục về bầu cử, gian lận, quyền riêng tư và thông tin sai lệch. Mục mới "áp dụng cho hoạt động lừa dối dưới mọi hình thức (dù mang tính chính trị hay thương mại)". Nó bao gồm việc che giấu ai đứng sau một thông điệp, khuếch đại nội dung qua tài khoản hoặc bài đăng giả, và xây dựng công cụ hoặc hạ tầng cho các chiến dịch gây ảnh hưởng.

Bản cập nhật cũng gỡ bỏ lệnh cấm toàn diện đối với việc nhắm mục tiêu cá nhân hóa trong vận động bầu cử và tranh cử. Việc nhắm mục tiêu dựa trên sự lừa dối hoặc lạm dụng dữ liệu cá nhân của cử tri vẫn bị cấm theo các mục về chiến dịch lừa dối, giám sát và quyền riêng tư.

Một tuần sau, trong Preparing for the 2026 US midterms, Anthropic mô tả những gì họ thấy trong thực tế. Trong số các trường hợp, công ty cho biết một số đối tượng đã dùng Claude để tạo tin tức bịa đặt nhằm kiếm doanh thu quảng cáo, và đã cấm các tài khoản liên quan. Anthropic cũng cho biết các đối tác kiểm thử cơ chế bảo vệ nhận thấy Claude từ chối ổn định các yêu cầu độc hại đơn lẻ nhưng có thể bỏ sót các chiến dịch được chia thành nhiều tác vụ riêng lẻ vô hại, và công ty đã bổ sung các bộ phân loại cho hành vi lạm dụng nhiều bước như tài khoản mạng xã hội giả và trang tin giả.

Vì sao điều này quan trọng

Hai chi tiết đáng được bất kỳ ai làm marketing chú ý.

Cụm từ "hay thương mại" đặt đánh giá giả, tài khoản ảo, các đợt ra mắt được bot khuếch đại và những làn sóng "tự phát" dàn dựng vào cùng một nhóm với các chiến dịch gây ảnh hưởng chính trị. Bạn không được dùng Claude cho bất kỳ điều nào trong số này, nhưng xu hướng chung của ngành đã rõ: các nhà cung cấp AI đang theo dõi hoạt động phối hợp thiếu xác thực, và họ không phân biệt giữa bán một ứng viên và bán một sản phẩm.

Chi tiết thứ hai là mô hình kinh doanh đằng sau một số hành vi lạm dụng: tin tức bịa đặt được tạo ra để kiếm doanh thu quảng cáo. Đó không chỉ là vấn đề nội dung. Đó là vấn đề tài trợ quảng cáo. Khi ngân sách thương hiệu chảy qua hệ thống mua quảng cáo programmatic tự động vào các trang bịa đặt, nhà quảng cáo rốt cuộc trả tiền cho sự lừa dối, thường là mà không hề hay biết.

Thay đổi về nhắm mục tiêu cũng đáng lưu ý. Bản thân cá nhân hóa không bị coi là tác hại. Sự lừa dối và lạm dụng dữ liệu cá nhân mới là tác hại. Tôi cho rằng đó là sự phân biệt đúng đắn.

Nghiên cứu của tôi nói gì

Tôi đã dành phần lớn sự nghiệp để xây dựng các hệ thống lập hồ sơ đối tượng: học hồ sơ người dùng từ nhiều mạng xã hội, suy luận tính cách xuyên mạng và dùng tính cách để gợi ý nội dung. Tôi biết những kỹ thuật này mạnh đến mức nào, và đó chính là lý do tôi có bài nói tại WSDM 2023 về sử dụng AI có trách nhiệm cho nhắm mục tiêu quảng cáo và đánh giá sáng tạo.

Quan điểm của tôi, mà tôi đã trình bày trên Forbes dưới tên marketing cứu chuộc (redemptive marketing), là minh bạch và hiệu quả không nhất thiết phải đánh đổi lẫn nhau. Hiểu đối tượng để phục vụ họ tốt hơn là chính đáng. Giả làm đối tượng, bằng tài khoản giả và tiếng nói giả, thì không. Chính sách mới vạch ranh giới ở gần như cùng một chỗ.

Còn một góc độ đo lường. Tương tác giả làm ô nhiễm chính dữ liệu mà AI marketing hiện đại học từ đó. Nếu làn sóng thảo luận của đối thủ một phần là nhân tạo, bất kỳ mô hình nào đọc "điều gì hiệu quả trong ngành hàng" cũng sẽ học sai bài học. Loại bỏ tín hiệu thiếu xác thực khỏi dữ liệu mạng xã hội đã trở thành một phần của phân tích tốt.

Marketer nên làm gì ngay bây giờ

• Ghi điều này vào hợp đồng với agency và influencer. Không tài khoản giả, không mua tương tác, không nội dung tài trợ không công khai, kể cả khi được tạo bằng AI.
• Công khai ai đang lên tiếng. Nếu AI viết thay cho thương hiệu hoặc một cá nhân, hãy đảm bảo tài khoản và mối quan hệ tài trợ được thể hiện rõ ràng.
• Kiểm tra tiền programmatic của bạn đi đâu. Yêu cầu báo cáo đến cấp độ trang web và chặn vị trí hiển thị trên các trang không xác định được nhà xuất bản.
• Tách biệt cá nhân hóa khỏi lừa dối trong chính sách của bạn. Dùng dữ liệu bên thứ nhất có sự đồng ý để điều chỉnh thông điệp là một chuyện; che giấu ai đứng sau thông điệp là chuyện khác.
• Hãy chuẩn bị cho việc bị giám sát. Nếu quy trình của bạn tự động đăng bài ở quy mô lớn, hãy lập tài liệu để dễ dàng chứng minh việc sử dụng hợp pháp.

Bầu cử làm vấn đề trở nên rõ ràng. Thương mại mới là nơi có nhiều tiền nhất. Các nhà cung cấp AI đã nhận ra; marketer nên đi trước một bước.

Câu hỏi thường gặp