Serangan Distilasi: Arti Model AI Tiruan bagi Anda

"Distilasi" dulunya kata yang sopan dalam machine learning. Istilah ini menggambarkan pelatihan model kecil untuk meniru model besar, sebuah teknik yang standar dan berguna. Pada September dan Oktober 2026, istilah ini menjadi isu keamanan dan perdagangan. Jika Anda membeli atau membangun AI untuk pemasaran, Anda perlu memahami kedua maknanya.

Apa yang terjadi

Pada awal September, CISA, NSA, dan FBI menerbitkan advisori bersama tentang apa yang mereka sebut distilasi pengetahuan berskala industri oleh perusahaan AI yang berbasis di Tiongkok. Menurut laporan Help Net Security tentang advisori tersebut, lembaga-lembaga itu menyebut DeepSeek, Moonshot AI, Alibaba Group, MiniMax, StepFun, dan Z.AI, dan menyatakan bahwa perusahaan-perusahaan itu telah mengekstraksi miliaran token melalui jutaan permintaan ke model frontier AS setidaknya sejak akhir 2024. Advisori tersebut mencantumkan sinyal deteksi, seperti penggunaan sepanjang waktu tanpa jeda istirahat manusia dan kumpulan akun yang berperilaku terkoordinasi, serta merekomendasikan pemeriksaan identitas yang lebih ketat, pemantauan, dan berbagi informasi antarpenyedia AI. Laporan itu mencatat bahwa tidak ada pernyataan dari perusahaan-perusahaan yang disebut.

Pada 12 Oktober Anthropic memaparkan responsnya sendiri. Dalam Strengthening our defenses against distillation attacks, Anthropic menyatakan bahwa bukti awal menunjukkan metodenya telah mengurangi data yang dipanen oleh pelaku distilasi sekitar 90 hingga 99%. Langkah-langkahnya meliputi mencegah akun API yang lebih baru menyunting penalaran Claude sebelumnya, pengklasifikasi dua tahap yang dilatih pada upaya ekstraksi dengan tingkat positif palsu di bawah 0,1%, batasan dan larangan yang lebih ketat untuk upaya berulang, serta pengenaan biaya untuk permintaan yang diblokir oleh pengamannya. Anthropic menyatakan telah memblokir puluhan ribu akun yang terkait distilasi dan memperkirakan "permainan kucing dan tikus" yang berkelanjutan.

Mengapa ini penting

Ada dua alasan mengapa seorang pemasar perlu peduli pada pertarungan antarlab AI.

Yang pertama adalah risiko rantai pasok. Jika sebuah model dibangun dengan menyalin perilaku model lain tanpa izin, Anda tidak tahu pengaman apa saja yang ikut terbawa. Tulisan Anthropic berargumen bahwa model hasil distilasi dapat mendekati kemampuan frontier sambil hadir dengan perlindungan yang lebih lemah. Ketika Anda memilih model untuk menjalankan layanan pelanggan atau membuat iklan, asal-usul adalah bagian dari kualitas.

Yang kedua adalah hambatan bagi pengguna yang sah. Pertahanan ada biayanya. Anthropic mengakui bahwa sebagian pengembang harus memperbarui integrasinya, bahwa sebagian kecil permintaan yang wajar dapat terblokir, dan bahwa permintaan yang diblokir kini dapat dikenai biaya. Jika stack pemasaran Anda melakukan banyak panggilan otomatis ke API frontier, sebagian trafik itu dapat terlihat seperti kampanye ekstraksi. Bacalah kebijakan penyedia Anda sekarang, bukan setelah pipeline Anda rusak.

Apa kata riset saya

Distilasi bukanlah penjahatnya di sini. Jika dilakukan secara sah, distilasi adalah cara kita membuat AI terjangkau. Model besar mengajari model kecil; model kecil berjalan murah dalam skala besar. Saya berpendapat di Forbes bahwa dalam pemasaran, teknik lebih penting daripada ukuran model, dan distilasi adalah salah satu teknik tersebut.

Yang mengubah gambaran adalah persetujuan dan transparansi. Karya saya tentang AI yang dapat dijelaskan berangkat dari prinsip sederhana: pemasar harus dapat melihat mengapa sebuah sistem merekomendasikan sesuatu. Dalam Against Opacity (ACM Multimedia 2023) kami memasangkan prediksi rasio klik-tayang dengan asisten LLM yang menjelaskan faktor-faktor pendorongnya. Dalam SOMONITOR (pracetak 2024) kami menjelaskan penggabungan model kinerja yang dapat dijelaskan dengan LLM untuk analitik pesaing. Penjelasan hanya bermakna jika Anda tahu model apa itu dan dari mana asalnya.

Ada pula ironi yang patut dicermati. Pertahanan yang dijelaskan Anthropic, yaitu meringkas atau membatasi akses ke penalaran lengkap model, membuat sistem sedikit kurang transparan bagi semua orang, karena penalaran itulah yang diincar para penyalin. Kompromi ini akan menentukan seberapa banyak penjelasan yang bersedia dibuka vendor AI. Pembeli sebaiknya meminta penjelasan yang dirancang untuk mereka, tentang data dan keputusan mereka, alih-alih jejak penalaran mentah.

Apa yang sebaiknya dilakukan pembeli AI pemasaran sekarang

• Tanyakan kepada setiap vendor model apa yang ada di balik produk mereka dan dari mana model itu berasal.
• Periksa ketentuan API yang Anda panggil. Penggunaan otomatis bervolume tinggi adalah hal biasa dalam pemasaran; pastikan penggunaan Anda jelas sah, teridentifikasi, dan dalam batas.
• Rencanakan pergantian model. Kebijakan, harga, dan akses dapat berubah dengan cepat. Jaga agar prompt, prosedur, dan set evaluasi tetap portabel.
• Lakukan distilasi model Anda sendiri secara sah. Jika Anda membutuhkan model murah untuk tugas yang sempit, latih dengan data Anda sendiri atau dengan keluaran yang memang berlisensi untuk Anda gunakan.
• Utamakan penjelasan keputusan daripada pembukaan bagian internal. Yang perlu Anda audit adalah mengapa sebuah rekomendasi dibuat untuk kampanye Anda.

Pertarungan distilasi adalah soal siapa yang boleh menyalin siapa. Bagi pemasar, ini pengingat bahwa "model yang mana?" kini merupakan pertanyaan tata kelola, bukan sekadar pertanyaan teknis.

FAQ