Aturan AI Kini Menyamakan Buzz Komersial Palsu dengan Kecurangan Pemilu

Selama bertahun-tahun, perbincangan tentang AI dan manipulasi berpusat pada pemilu. Fokus itu masuk akal. Namun teknik yang sama yang dapat memalsukan gerakan politik juga dapat memalsukan popularitas sebuah produk. Pada Oktober Anthropic menegaskan kaitan itu dalam aturannya, dan pemasar sebaiknya membacanya sebagai garis yang juga ditarik ke arah mereka.

Apa yang terjadi

Pada 8 Oktober Anthropic menerbitkan pembaruan Usage Policy 2026, yang berlaku mulai 12 November. Pembaruan ini menambahkan bagian berjudul "Do Not Engage in Deceptive Campaigns or Artificial Activity", yang menyatukan aturan yang sebelumnya tersebar di bagian pemilu, penipuan, privasi, dan disinformasi. Bagian baru ini "berlaku untuk aktivitas menipu dalam bentuk apa pun (baik politik maupun komersial)". Cakupannya meliputi menyamarkan siapa yang berada di balik sebuah pesan, memperkuat konten melalui akun atau unggahan palsu, serta membangun alat atau infrastruktur untuk operasi pengaruh.

Pembaruan ini juga mencabut larangan menyeluruh atas penargetan pemilih dan kampanye yang dipersonalisasi. Penargetan yang mengandalkan penipuan atau penyalahgunaan data pribadi pemilih tetap dilarang berdasarkan bagian kampanye menipu, pengawasan, dan privasi.

Sepekan kemudian, dalam Preparing for the 2026 US midterms, Anthropic memaparkan apa yang dilihatnya dalam praktik. Di antara kasus lainnya, Anthropic melaporkan bahwa sejumlah pelaku menggunakan Claude untuk memproduksi berita palsu demi pendapatan iklan, dan bahwa akun-akun yang terlibat telah diblokir. Anthropic juga melaporkan bahwa mitra yang menguji pengamannya mendapati Claude secara konsisten menolak permintaan berbahaya tunggal, tetapi dapat melewatkan kampanye yang dipecah menjadi tugas-tugas yang masing-masing tampak tidak berbahaya, dan bahwa Anthropic menambahkan pengklasifikasi untuk penyalahgunaan multilangkah seperti akun media sosial dan situs berita palsu.

Mengapa ini penting

Dua detail patut diperhatikan oleh siapa pun di bidang pemasaran.

Kata "maupun komersial" menempatkan ulasan palsu, akun sock-puppet, peluncuran yang diperkuat bot, dan buzz "akar rumput" hasil astroturfing dalam kategori yang sama dengan operasi pengaruh politik. Anda tidak boleh menggunakan Claude untuk hal-hal ini, tetapi arah industri secara keseluruhan sudah jelas: penyedia AI mengawasi aktivitas tidak autentik yang terkoordinasi, dan mereka tidak membedakan antara menjual kandidat dan menjual produk.

Detail kedua adalah model bisnis di balik sebagian penyalahgunaan tersebut: berita palsu yang dibuat untuk meraup pendapatan iklan. Itu bukan hanya masalah konten. Itu masalah pendanaan iklan. Ketika anggaran merek mengalir melalui pembelian programatik otomatis ke situs-situs palsu, pengiklan akhirnya membiayai penipuan itu, biasanya tanpa menyadarinya.

Perubahan soal penargetan juga patut dicatat. Personalisasi itu sendiri tidak dianggap sebagai bahaya. Yang dianggap bahaya adalah penipuan dan penyalahgunaan data pribadi. Menurut saya itu pembedaan yang tepat.

Apa kata riset saya

Saya telah menghabiskan sebagian besar karier saya membangun sistem yang memprofilkan audiens: mempelajari profil pengguna dari berbagai jejaring sosial, menyimpulkan kepribadian lintas jejaring, dan menggunakan kepribadian untuk merekomendasikan konten. Saya tahu betapa kuatnya teknik-teknik ini, dan justru karena itulah saya memberikan ceramah di WSDM 2023 tentang penggunaan AI secara bertanggung jawab untuk penargetan iklan dan evaluasi kreatif.

Pandangan saya, yang saya uraikan di Forbes sebagai pemasaran redemptif, adalah bahwa transparansi dan kinerja tidak harus saling dikorbankan. Memahami audiens agar dapat melayaninya dengan lebih baik itu sah. Berpura-pura menjadi audiens, dengan akun palsu dan suara palsu, tidak sah. Kebijakan baru ini menarik garis di tempat yang kurang lebih sama.

Ada pula sudut pandang pengukuran. Interaksi palsu mencemari data yang justru menjadi bahan belajar AI pemasaran modern. Jika buzz pesaing Anda sebagian bersifat sintetis, model apa pun yang membaca "apa yang berhasil di kategori ini" akan mempelajari pelajaran yang keliru. Membersihkan sinyal tidak autentik dari data sosial kini menjadi bagian dari analitik yang baik.

Apa yang sebaiknya dilakukan pemasar sekarang

• Cantumkan dalam kontrak agensi dan influencer Anda. Tidak ada akun palsu, interaksi yang dibeli, atau konten bersponsor yang tidak diungkapkan, termasuk yang dibuat dengan AI.
• Ungkapkan siapa yang berbicara. Jika AI menulis atas nama merek Anda atau seseorang, pastikan akun dan sponsornya jelas.
• Audit ke mana uang programatik Anda mengalir. Minta pelaporan tingkat situs dan blokir penempatan di situs tanpa penerbit yang dapat diidentifikasi.
• Pisahkan personalisasi dari penipuan dalam kebijakan Anda sendiri. Menggunakan data pihak pertama dengan persetujuan untuk menyesuaikan pesan adalah satu hal; menyamarkan siapa yang ada di baliknya adalah hal lain.
• Bersiaplah untuk diawasi. Jika alur kerja Anda mengotomatiskan unggahan dalam skala besar, dokumentasikan agar penggunaan yang sah mudah dibuktikan.

Pemilu membuat masalah ini terlihat. Perdaganganlah tempat sebagian besar uang berada. Penyedia AI telah menyadarinya; pemasar sebaiknya bergerak lebih dulu.

FAQ