Peraturan AI Kini Melayan Hebahan Komersial Palsu Seperti Penipuan Pilihan Raya

Selama bertahun-tahun, perbincangan tentang AI dan manipulasi berkisar tentang pilihan raya. Tumpuan itu masuk akal. Tetapi teknik yang sama yang memalsukan gerakan politik boleh memalsukan populariti sesuatu produk. Pada Oktober Anthropic menjadikan kaitan itu jelas dalam peraturannya, dan pemasar perlu membacanya sebagai garis yang turut dilukis ke arah mereka.

Apa yang berlaku

Pada 8 Oktober Anthropic menerbitkan kemas kini Usage Policy 2026, berkuat kuasa 12 November. Ia menambah bahagian bertajuk "Do Not Engage in Deceptive Campaigns or Artificial Activity", yang menyatukan peraturan yang sebelum ini tersebar di bahagian pilihan raya, penipuan, privasi dan maklumat salah. Bahagian baharu itu "terpakai pada aktiviti mengelirukan dalam apa jua bentuk (sama ada politik atau komersial)". Ia meliputi tindakan menyembunyikan siapa di sebalik sesuatu mesej, menguatkan kandungan melalui akaun atau hantaran palsu, dan membina alat atau infrastruktur untuk operasi pengaruh.

Kemas kini itu juga memansuhkan larangan menyeluruh terhadap penyasaran undi dan kempen yang diperibadikan. Penyasaran yang bergantung pada penipuan atau penyalahgunaan data peribadi pengundi kekal dilarang di bawah bahagian kempen mengelirukan, pengawasan dan privasi.

Seminggu kemudian, dalam Preparing for the 2026 US midterms, Anthropic menghuraikan apa yang dilihatnya dalam amalan. Antara kes lain, ia melaporkan bahawa sesetengah pihak menggunakan Claude untuk menghasilkan berita rekaan demi hasil pengiklanan, dan bahawa ia telah mengharamkan akaun yang terlibat. Ia juga melaporkan bahawa rakan kongsi yang menguji perlindungannya mendapati Claude secara konsisten menolak permintaan berbahaya tunggal tetapi boleh terlepas kempen yang dipecahkan kepada tugas-tugas yang secara individu tidak berbahaya, dan bahawa ia telah menambah pengelas untuk penyalahgunaan berbilang langkah seperti akaun media sosial dan laman berita palsu.

Mengapa ia penting

Dua perincian wajar diberi perhatian oleh sesiapa dalam bidang pemasaran.

Perkataan "atau komersial" meletakkan ulasan palsu, akaun boneka, pelancaran yang diperkuat bot dan hebahan "akar umbi" tiruan dalam kategori yang sama dengan operasi pengaruh politik. Anda tidak boleh menggunakan Claude untuk mana-mana perkara ini, tetapi hala tuju seluruh industri adalah jelas: penyedia AI sedang memerhati aktiviti tidak tulen yang terselaras, dan mereka tidak membezakan antara menjual calon dan menjual produk.

Perincian kedua ialah model perniagaan di sebalik sebahagian penyalahgunaan itu: berita rekaan yang dibuat untuk meraih hasil pengiklanan. Itu bukan sekadar masalah kandungan. Ia masalah pembiayaan iklan. Apabila bajet jenama mengalir melalui pembelian programatik automatik ke laman rekaan, pengiklan akhirnya membayar untuk penipuan itu, biasanya tanpa mengetahuinya.

Perubahan penyasaran juga wajar diberi perhatian. Pemperibadian itu sendiri tidak dianggap sebagai kemudaratan. Penipuan dan penyalahgunaan data peribadi yang dianggap demikian. Saya rasa itulah perbezaan yang betul.

Apa kata penyelidikan saya

Saya telah menghabiskan sebahagian besar kerjaya saya membina sistem yang memprofilkan khalayak: mempelajari profil pengguna daripada pelbagai rangkaian sosial, membuat inferens personaliti merentas rangkaian dan menggunakan personaliti untuk mengesyorkan kandungan. Saya tahu betapa berkuasanya teknik-teknik ini, dan itulah sebabnya saya menyampaikan ceramah WSDM 2023 tentang penggunaan AI secara bertanggungjawab untuk penyasaran pengiklanan dan penilaian kreatif.

Pandangan saya, yang saya huraikan di Forbes sebagai pemasaran penebusan, ialah ketelusan dan prestasi tidak semestinya perlu ditukar ganti antara satu sama lain. Memahami khalayak untuk memberi khidmat yang lebih baik kepada mereka adalah sah. Berpura-pura menjadi khalayak itu, dengan akaun palsu dan suara palsu, tidak sah. Dasar baharu itu melukis garisnya di tempat yang lebih kurang sama.

Ada juga sudut pengukuran. Penglibatan palsu mencemarkan data yang menjadi bahan pembelajaran AI pemasaran moden. Jika hebahan pesaing anda sebahagiannya sintetik, mana-mana model yang membaca "apa yang berkesan dalam kategori ini" akan mempelajari pengajaran yang salah. Membersihkan isyarat tidak tulen daripada data sosial telah menjadi sebahagian daripada analitik yang baik.

Apa yang perlu dilakukan pemasar sekarang

• Masukkannya ke dalam kontrak agensi dan pempengaruh anda. Tiada akaun palsu, penglibatan yang dibeli atau kandungan tajaan yang tidak didedahkan, termasuk apabila dihasilkan dengan AI.
• Dedahkan siapa yang bercakap. Jika AI menulis bagi pihak jenama anda atau seseorang, pastikan akaun dan tajaannya jelas.
• Audit ke mana wang programatik anda pergi. Minta laporan peringkat laman dan sekat penempatan di laman tanpa penerbit yang boleh dikenal pasti.
• Asingkan pemperibadian daripada penipuan dalam dasar anda sendiri. Menggunakan data pihak pertama dengan persetujuan untuk menyesuaikan mesej adalah satu perkara; menyembunyikan siapa di sebaliknya adalah perkara lain.
• Jangkakan pemantauan. Jika aliran kerja anda mengautomasikan hantaran pada skala besar, dokumentasikannya supaya penggunaan yang sah mudah dibuktikan.

Pilihan raya menjadikan masalah ini kelihatan. Perdagangan ialah tempat kebanyakan wang berada. Penyedia AI telah menyedarinya; pemasar perlu mendahuluinya.

Soalan Lazim