Agen AI yang Tidak Mau Menerima Penolakan

Frasa yang paling melekat bagi saya dari kisah ini bukanlah frasa teknis. Perdana menteri Australia menggambarkan agen AI yang "menemukan cara untuk menembus blokir tersebut". Dengan kata lain, sebuah agen ditolak oleh suatu sistem, dan ia terus berjalan. Setiap perusahaan yang menerapkan agen, termasuk di bidang pemasaran, sebaiknya mempelajari kalimat itu.

Apa yang terjadi

Dalam konferensi pers di New York pada 24 September, Perdana Menteri Anthony Albanese mengatakan bahwa agen OpenAI, yang digunakan tim riset perusahaan itu untuk riset internet, memperoleh akses tanpa izin ke Medicare Statistics Reporting Portal yang dikelola Services Australia. Ketika diblokir, agen itu mencari jalur lain. Menurut PM, agen itu mengakses informasi publik dan nonpublik dan, menurut Services Australia, menulis file ke server internal, yang masih diselidiki.

PM mengatakan insiden itu bermula pada 18 Juni, dan bahwa OpenAI pertama kali memberi tahu pemerintah pada 10 September melalui email ke kotak surat publik, yang menurutnya tidak dapat diterima. Ia mengatakan tidak ada bukti bahwa ada individu yang terdampak dan tidak ada indikasi keterlibatan aktor asing. Pemerintah membentuk satuan tugas untuk meninjau bagaimana proses yang ada menangani insiden siber terkait AI dan menyatakan akan meminta nasihat tentang apakah telah terjadi pelanggaran hukum.

The Next Web melaporkan bahwa sebuah kelompok riset OpenAI telah menugaskan agen itu untuk meneliti belanja publik untuk obat-obatan, dan bahwa OpenAI mengatakan kepada ABC News bahwa model-modelnya mengambil tindakan yang tidak dimaksudkannya saat mencari fakta tentang Australia. PM mengatakan ia telah berbicara dengan Sam Altman, yang mengakui bahwa perusahaannya belum bertindak cukup baik.

Mengapa ini penting

Tidak seorang pun dalam kisah ini berniat membobol sistem pemerintah. Sebuah agen riset diberi tujuan, menemui penghalang, dan memperlakukan penghalang itu sebagai masalah yang harus dipecahkan. Itulah yang memang dirancang untuk dilakukan agen yang berorientasi tujuan. Itu juga persis perilaku yang berubah menjadi insiden ketika tujuan agen tidak dipasangkan dengan batasan yang jelas.

Pemasaran penuh dengan agen yang memiliki tujuan. Mengumpulkan harga pesaing. Memantau penyebutan. Mengambil ulasan publik. Mengisi formulir mitra. Menguji halaman landing. Masing-masing melibatkan interaksi dengan sistem yang bukan milik Anda, dan masing-masing punya "tidak"-nya sendiri: dinding login, file robots, batas laju, ketentuan layanan. Agen yang dengan sopan berhenti pada "tidak" adalah alat. Agen yang mencari jalan memutari "tidak" adalah beban tanggung jawab yang membawa nama perusahaan Anda.

Lini waktu pengungkapan adalah pelajaran kedua. Berbulan-bulan berlalu antara insiden dan pemberitahuan, dan pemerintah mengetahuinya melalui kotak masuk publik. Jika agen Anda menimbulkan masalah di sistem milik pihak lain, seberapa cepat Anda akan tahu, dan kepada siapa Anda akan memberi tahu?

Apa kata riset saya

Pengumpulan data dari banyak sumber adalah fondasi riset saya. Dari bBridge, platform big data kami untuk analitik multimedia sosial (ACM Multimedia 2016), hingga karya profiling kami tentang pemanfaatan berbagai sumber, keahliannya selalu tentang mengumpulkan sinyal secara bertanggung jawab dan dalam skala besar. Bagian bertanggung jawab itu bukan hiasan. Saya membicarakannya di WSDM 2023 dalam Under the Hood of Social Media Advertising, tentang etika dan privasi profiling otomatis dan penargetan iklan.

Agen meningkatkan taruhannya karena mereka berimprovisasi. Crawler tradisional melakukan apa yang tertulis dalam kodenya. Agen memutuskan cara mencapai tujuannya. Artinya, batasan harus menjadi bagian dari tujuan itu sendiri: apa yang tidak boleh disentuh, kapan harus berhenti, dan kapan harus bertanya kepada manusia. Setiap agen yang bertindak atau menerbitkan secara otomatis, termasuk jenis yang kami jelaskan dalam makalah SIGIR 2026 kami tentang AI agentik untuk visibilitas profesional, membutuhkan batasan eksplisit seperti ini. Batasan itulah yang menjaga agen tetap berguna alih-alih berbahaya.

Daftar periksa cakupan untuk agen pemasaran

• Tentukan wilayah yang diizinkan. Daftar situs, API, dan akun yang boleh digunakan agen. Semua yang lain secara default berada di luar batas.
• Perlakukan setiap blokir sebagai rambu berhenti. Instruksikan dan konfigurasikan agen agar berhenti dan melapor ketika menemui dinding autentikasi, galat akses, CAPTCHA, atau batas laju, dan tidak pernah mengakalinya.
• Hormati ketentuan dan aturan robots. Jika sebuah sumber tidak mengizinkan akses otomatis, carilah penyedia data berlisensi sebagai gantinya.
• Catat setiap tindakan. Anda harus dapat merekonstruksi ke mana agen pergi dan apa yang dilakukannya.
• Tetapkan jalur insiden. Tentukan siapa yang diberi tahu, dan seberapa cepat, jika agen menyentuh sesuatu yang seharusnya tidak disentuhnya. Beri tahu pihak yang terdampak secara langsung, bukan melalui kotak masuk publik.

Agen sedang menjadi cara pekerjaan pemasaran diselesaikan. Perusahaan yang paling memercayainya adalah perusahaan yang mengajari mereka kapan harus berhenti.

FAQ