Serangan Penyulingan: Maksud Model AI yang Disalin bagi Anda

"Penyulingan" (distillation) dahulunya perkataan yang sopan dalam pembelajaran mesin. Ia menggambarkan latihan model kecil untuk meniru model besar, satu teknik standard dan berguna. Pada September dan Oktober 2026 ia menjadi kisah keselamatan dan perdagangan. Jika anda membeli atau membina AI untuk pemasaran, anda perlu memahami kedua-dua maksudnya.

Apa yang berlaku

Pada awal September, CISA, NSA dan FBI menerbitkan nasihat bersama tentang apa yang mereka gambarkan sebagai penyulingan pengetahuan berskala industri oleh syarikat AI yang berpangkalan di China. Menurut laporan Help Net Security mengenai nasihat itu, agensi-agensi tersebut menamakan DeepSeek, Moonshot AI, Alibaba Group, MiniMax, StepFun dan Z.AI, dan berkata mereka telah mengekstrak berbilion token melalui berjuta-juta permintaan kepada model terdepan AS sejak sekurang-kurangnya akhir 2024. Nasihat itu menyenaraikan isyarat pengesanan, seperti penggunaan sepanjang masa tanpa masa rehat manusia dan kumpulan akaun yang bertindak secara terselaras, serta mengesyorkan semakan identiti yang lebih ketat, pemantauan dan perkongsian maklumat antara penyedia AI. Laporan itu menyatakan ia tidak memasukkan kenyataan daripada syarikat yang dinamakan.

Pada 12 Oktober Anthropic menghuraikan tindak balasnya sendiri. Dalam Strengthening our defenses against distillation attacks, ia berkata bukti awal menunjukkan kaedahnya telah mengurangkan data yang dituai oleh penyuling sebanyak kira-kira 90 hingga 99%. Langkah-langkah itu termasuk menghalang akaun API yang lebih baharu daripada menyunting penaakulan terdahulu Claude, pengelas dua peringkat yang dilatih pada cubaan pengekstrakan dengan kadar positif palsu di bawah 0.1%, had dan larangan yang lebih ketat bagi cubaan berulang, serta mengenakan caj bagi permintaan yang disekat oleh perlindungannya. Anthropic menyatakan ia telah mengharamkan puluhan ribu akaun yang berkaitan dengan penyulingan dan menjangkakan "permainan kucing dan tikus" yang berterusan.

Mengapa ia penting

Terdapat dua sebab mengapa pemasar perlu mengambil berat tentang pertelingkahan antara makmal AI.

Yang pertama ialah risiko rantaian bekalan. Jika sesuatu model dibina dengan menyalin tingkah laku model lain tanpa kebenaran, anda tidak tahu perlindungan mana yang turut disertakan. Catatan Anthropic berhujah bahawa model yang disuling boleh menghampiri keupayaan terdepan sambil dilancarkan dengan perlindungan yang lebih lemah. Apabila anda memilih model untuk menjalankan khidmat pelanggan atau menjana iklan, asal usul ialah sebahagian daripada kualiti.

Yang kedua ialah geseran bagi pengguna yang sah. Pertahanan ada kosnya. Anthropic mengakui bahawa sesetengah pembangun terpaksa mengemas kini integrasi, bahawa sebahagian kecil permintaan yang tidak berbahaya boleh disekat, dan bahawa permintaan yang disekat kini boleh dikenakan caj. Jika timbunan pemasaran anda membuat panggilan automatik yang banyak kepada API terdepan, sebahagian trafik itu boleh kelihatan seperti kempen pengekstrakan. Baca dasar penyedia anda sekarang, bukan selepas saluran paip anda rosak.

Apa kata penyelidikan saya

Penyulingan bukanlah penjahatnya di sini. Jika dilakukan secara sah, inilah cara kita menjadikan AI mampu milik. Model besar mengajar model kecil; model kecil berjalan dengan murah pada skala besar. Saya telah berhujah di Forbes bahawa dalam pemasaran, teknik lebih penting daripada saiz model, dan penyulingan ialah salah satu teknik tersebut.

Apa yang mengubah gambaran ialah persetujuan dan ketelusan. Kerja saya tentang AI yang boleh dijelaskan bermula daripada prinsip mudah: pemasar seharusnya dapat melihat mengapa sesuatu sistem mengesyorkan sesuatu. Dalam Against Opacity (ACM Multimedia 2023) kami menggandingkan ramalan kadar klik lalu dengan pembantu LLM yang menjelaskan faktor pemacunya. Dalam SOMONITOR (pracetak 2024) kami menghuraikan gabungan model prestasi yang boleh dijelaskan dengan LLM untuk analitik pesaing. Penjelasan hanya bermakna jika anda tahu model itu apa dan dari mana asalnya.

Ada juga ironi yang patut diperhatikan. Pertahanan yang dihuraikan Anthropic, iaitu meringkaskan atau menyekat akses kepada penaakulan penuh model, menjadikan sistem sedikit kurang telus kepada semua orang, kerana penaakulan itulah yang dikehendaki oleh penyalin. Pertukaran itu akan membentuk sejauh mana penjelasan yang sanggup didedahkan oleh vendor AI. Pembeli perlu meminta penjelasan yang direka untuk mereka, tentang data dan keputusan mereka, dan bukannya jejak penaakulan mentah.

Apa yang perlu dilakukan pembeli AI pemasaran sekarang

• Tanya setiap vendor model mana yang berada di bawah produk mereka dan dari mana model itu datang.
• Semak terma API yang anda panggil. Penggunaan automatik berjumlah tinggi adalah biasa dalam pemasaran; pastikan penggunaan anda jelas sah, dikenal pasti dan dalam had.
• Rancang untuk pertukaran model. Dasar, harga dan akses boleh berubah dengan cepat. Pastikan prompt, prosedur dan set penilaian mudah alih.
• Suling model anda sendiri secara sah. Jika anda memerlukan model murah untuk tugas yang sempit, latih ia menggunakan data anda sendiri atau output yang anda dilesenkan untuk gunakan.
• Utamakan penjelasan keputusan berbanding pendedahan bahagian dalaman. Apa yang perlu anda audit ialah mengapa sesuatu cadangan dibuat untuk kempen anda.

Pertelingkahan penyulingan adalah tentang siapa yang boleh menyalin siapa. Bagi pemasar, ia peringatan bahawa "model yang mana?" kini soalan tadbir urus, bukan sekadar soalan teknikal.

Soalan Lazim