Ejen AI yang Enggan Menerima Jawapan Tidak

Frasa yang melekat dalam ingatan saya daripada kisah ini bukanlah frasa teknikal. Perdana Menteri Australia menggambarkan ejen AI yang "menemui jalan untuk memintas sekatan itu". Dalam erti kata lain, sebuah ejen diberitahu tidak oleh sesuatu sistem, dan ia terus mara. Setiap syarikat yang melaksanakan ejen, termasuk dalam pemasaran, perlu mengkaji ayat itu.

Apa yang berlaku

Dalam sidang media di New York pada 24 September, Perdana Menteri Anthony Albanese berkata ejen OpenAI, yang digunakan oleh pasukan penyelidikan syarikat itu untuk penyelidikan internet, memperoleh akses tanpa kebenaran kepada Medicare Statistics Reporting Portal yang ditadbir oleh Services Australia. Apabila disekat, ejen itu mencari laluan lain. Menurut PM, ia mengakses maklumat awam dan bukan awam dan, menurut Services Australia, menulis fail ke pelayan dalaman, yang masih disiasat.

PM berkata insiden itu bermula pada 18 Jun, dan OpenAI mula-mula memaklumkan kerajaan pada 10 September melalui e-mel ke peti mel awam, yang disifatkannya sebagai tidak boleh diterima. Beliau berkata tiada bukti bahawa mana-mana individu terjejas dan tiada petunjuk penglibatan pihak asing. Kerajaan menubuhkan pasukan petugas untuk menyemak cara proses sedia ada mengendalikan insiden siber berkaitan AI dan berkata ia akan mendapatkan nasihat tentang sama ada kesalahan telah berlaku.

The Next Web melaporkan bahawa sebuah kumpulan penyelidikan OpenAI telah menetapkan ejen itu untuk meneliti perbelanjaan awam bagi ubat-ubatan, dan OpenAI memberitahu ABC News bahawa modelnya mengambil tindakan yang tidak dimaksudkannya semasa mencari fakta tentang Australia. PM berkata beliau bercakap dengan Sam Altman, yang mengakui bahawa syarikat itu tidak melakukannya dengan cukup baik.

Mengapa ia penting

Tiada sesiapa dalam kisah ini berniat untuk menceroboh sistem kerajaan. Ejen penyelidikan diberi matlamat, menemui halangan, dan menganggap halangan itu sebagai masalah untuk diselesaikan. Itulah yang direka untuk dilakukan oleh ejen yang berorientasikan matlamat. Itulah juga tingkah laku yang bertukar menjadi insiden apabila matlamat ejen tidak digandingkan dengan had yang jelas.

Pemasaran penuh dengan ejen yang mempunyai matlamat. Kumpul harga pesaing. Pantau sebutan. Kikis ulasan awam. Isi borang rakan kongsi. Uji halaman pendaratan. Setiap satu melibatkan interaksi dengan sistem yang bukan milik anda, dan setiap satu mempunyai "tidak" tersendiri: dinding log masuk, fail robots, had kadar, terma perkhidmatan. Ejen yang berhenti dengan sopan pada "tidak" ialah alat. Ejen yang memintas "tidak" ialah liabiliti yang membawa nama syarikat anda.

Garis masa pendedahan ialah pengajaran kedua. Beberapa bulan berlalu antara insiden dan pemberitahuan, dan kerajaan mengetahuinya melalui peti masuk awam. Jika ejen anda menyebabkan masalah pada sistem pihak lain, berapa cepat anda akan tahu, dan kepada siapa anda akan memberitahu?

Apa kata penyelidikan saya

Pengumpulan data merentas banyak sumber ialah asas penyelidikan saya. Daripada bBridge, platform data raya kami untuk analitik multimedia sosial (ACM Multimedia 2016), hingga kerja pemprofilan kami tentang menuai pelbagai sumber, kemahirannya sentiasa tentang mengumpul isyarat secara bertanggungjawab dan pada skala besar. Bahagian bertanggungjawab itu bukan hiasan. Saya bercakap tentangnya di WSDM 2023 dalam Under the Hood of Social Media Advertising, tentang etika dan privasi pemprofilan automatik dan penyasaran iklan.

Ejen meningkatkan taruhan kerana ia berimprovisasi. Perangkak tradisional melakukan apa yang dikatakan kodnya. Ejen memutuskan cara untuk mencapai matlamatnya. Ini bermakna kekangan mesti menjadi sebahagian daripada matlamat itu sendiri: apa yang tidak boleh disentuh, bila perlu berhenti, dan bila perlu bertanya kepada manusia. Mana-mana ejen yang bertindak atau menerbitkan secara automatik, termasuk jenis yang kami huraikan dalam kertas kajian SIGIR 2026 kami tentang AI agentik untuk keterlihatan profesional, memerlukan sempadan yang jelas seperti ini. Sempadan itulah yang memastikan ejen kekal berguna dan bukannya berbahaya.

Senarai semak skop untuk ejen pemasaran

• Tentukan wilayah yang dibenarkan. Senaraikan laman, API dan akaun yang boleh digunakan oleh ejen. Semua yang lain berada di luar sempadan secara lalai.
• Layan setiap sekatan sebagai tanda berhenti. Arahkan dan konfigurasikan ejen untuk berhenti dan melaporkan apabila menemui dinding pengesahan, ralat akses, CAPTCHA atau had kadar, dan jangan sekali-kali memintasnya.
• Hormati terma dan peraturan robots. Jika sesuatu sumber tidak membenarkan akses automatik, cari penyedia data berlesen sebagai ganti.
• Log setiap tindakan. Anda sepatutnya dapat membina semula ke mana ejen pergi dan apa yang dilakukannya.
• Tetapkan laluan insiden. Tentukan siapa yang dimaklumkan, dan berapa cepat, jika ejen menyentuh sesuatu yang tidak sepatutnya. Maklumkan pihak yang terjejas secara langsung, bukan melalui peti masuk awam.

Ejen sedang menjadi cara kerja pemasaran dilaksanakan. Syarikat yang paling mempercayainya ialah syarikat yang mengajarnya bila perlu berhenti.

Soalan Lazim