วลีที่ติดอยู่ในใจผมจากเรื่องนี้ไม่ใช่เรื่องเทคนิค นายกรัฐมนตรีออสเตรเลียอธิบายถึงเอเจนต์ AI ที่ "หาทางเลี่ยงการปิดกั้นเหล่านั้นได้" กล่าวคือ เอเจนต์ถูกระบบปฏิเสธ แต่มันก็ยังเดินหน้าต่อ ทุกบริษัทที่ติดตั้งใช้งานเอเจนต์ รวมถึงในการตลาด ควรศึกษาประโยคนั้น
เกิดอะไรขึ้น
ในการแถลงข่าวที่นิวยอร์กเมื่อวันที่ 24 กันยายน นายกรัฐมนตรี Anthony Albanese กล่าวว่าเอเจนต์ของ OpenAI ซึ่งทีมวิจัยของบริษัทใช้ค้นคว้าทางอินเทอร์เน็ต ได้เข้าถึง Medicare Statistics Reporting Portal ที่ดูแลโดย Services Australia โดยไม่ได้รับอนุญาต เมื่อถูกบล็อก เอเจนต์ได้มองหาเส้นทางอื่น ตามที่นายกรัฐมนตรีกล่าว มันเข้าถึงข้อมูลทั้งที่เป็นสาธารณะและไม่เป็นสาธารณะ และตามข้อมูลของ Services Australia มันได้เขียนไฟล์ลงในเซิร์ฟเวอร์ภายใน ซึ่งยังอยู่ระหว่างการสอบสวน
นายกรัฐมนตรีกล่าวว่าเหตุการณ์เริ่มเมื่อวันที่ 18 มิถุนายน และ OpenAI แจ้งรัฐบาลครั้งแรกเมื่อวันที่ 10 กันยายนทางอีเมลไปยังกล่องจดหมายสาธารณะ ซึ่งเขาเรียกว่ารับไม่ได้ เขากล่าวว่าไม่มีหลักฐานว่าบุคคลใดได้รับผลกระทบ และไม่มีข้อบ่งชี้ว่ามีผู้กระทำจากต่างประเทศ รัฐบาลตั้งคณะทำงานเพื่อทบทวนว่ากระบวนการที่มีอยู่จัดการกับเหตุการณ์ไซเบอร์ที่เกี่ยวกับ AI อย่างไร และระบุว่าจะขอคำปรึกษาว่ามีการกระทำความผิดเกิดขึ้นหรือไม่
The Next Web รายงานว่ากลุ่มวิจัยของ OpenAI ตั้งให้เอเจนต์ตรวจสอบการใช้จ่ายภาครัฐด้านยา และ OpenAI บอก ABC News ว่าโมเดลของบริษัททำการกระทำที่บริษัทไม่ได้ตั้งใจระหว่างค้นหาข้อเท็จจริงเกี่ยวกับออสเตรเลีย นายกรัฐมนตรีกล่าวว่าเขาได้คุยกับ Sam Altman ซึ่งยอมรับว่าบริษัททำได้ไม่ดีพอ
ทำไมเรื่องนี้จึงสำคัญ
ไม่มีใครในเรื่องนี้ตั้งใจจะเจาะระบบของรัฐบาล เอเจนต์วิจัยได้รับเป้าหมาย เจออุปสรรค และมองอุปสรรคเป็นปัญหาที่ต้องแก้ นั่นคือสิ่งที่เอเจนต์ที่มุ่งเป้าหมายถูกออกแบบมาให้ทำ และก็เป็นพฤติกรรมที่กลายเป็นเหตุการณ์เมื่อเป้าหมายของเอเจนต์ไม่ได้มาคู่กับขีดจำกัดที่ชัดเจน
การตลาดเต็มไปด้วยเอเจนต์ที่มีเป้าหมาย เก็บราคาคู่แข่ง ติดตามการกล่าวถึง ดึงรีวิวสาธารณะ กรอกแบบฟอร์มของพันธมิตร ทดสอบหน้า Landing Page ทุกงานเกี่ยวข้องกับการโต้ตอบกับระบบที่คุณไม่ได้เป็นเจ้าของ และแต่ละระบบมี "คำปฏิเสธ" ของตัวเอง: หน้าล็อกอิน ไฟล์ robots ขีดจำกัดอัตราการเรียก ข้อกำหนดการให้บริการ เอเจนต์ที่หยุดอย่างสุภาพเมื่อเจอคำปฏิเสธคือเครื่องมือ เอเจนต์ที่หาทางเลี่ยงคำปฏิเสธคือภาระความรับผิดที่มีชื่อบริษัทของคุณติดอยู่
ไทม์ไลน์การเปิดเผยคือบทเรียนที่สอง เวลาผ่านไปหลายเดือนระหว่างเหตุการณ์กับการแจ้ง และรัฐบาลได้ยินเรื่องนี้ผ่านกล่องจดหมายสาธารณะ หากเอเจนต์ของคุณก่อปัญหาบนระบบของผู้อื่น คุณจะรู้เร็วแค่ไหน และคุณจะแจ้งใคร?
งานวิจัยของผมบอกอะไร
การเก็บข้อมูลจากหลายแหล่งคือรากฐานของงานวิจัยของผม ตั้งแต่ bBridge แพลตฟอร์มบิ๊กดาต้าสำหรับการวิเคราะห์มัลติมีเดียโซเชียลของเรา (ACM Multimedia 2016) ไปจนถึงงานด้านการสร้างโปรไฟล์เรื่องการเก็บเกี่ยวข้อมูลจากหลายแหล่ง งานฝีมือนี้เกี่ยวกับการรวบรวมสัญญาณอย่างรับผิดชอบและในระดับใหญ่มาโดยตลอด ส่วนที่ว่ารับผิดชอบไม่ใช่ของประดับ ผมพูดถึงเรื่องนี้ที่ WSDM 2023 ใน Under the Hood of Social Media Advertising ว่าด้วยจริยธรรมและความเป็นส่วนตัวของการสร้างโปรไฟล์อัตโนมัติและการกำหนดเป้าหมายโฆษณา
เอเจนต์เพิ่มเดิมพันเพราะมันด้นสด crawler แบบดั้งเดิมทำตามที่โค้ดบอก เอเจนต์ตัดสินใจว่าจะไปถึงเป้าหมายอย่างไร นั่นหมายความว่าข้อจำกัดต้องเป็นส่วนหนึ่งของเป้าหมายเอง: อะไรที่ห้ามแตะ เมื่อใดต้องหยุด และเมื่อใดต้องถามมนุษย์ เอเจนต์ใดก็ตามที่ลงมือหรือเผยแพร่โดยอัตโนมัติ รวมถึงแบบที่เราอธิบายในบทความ SIGIR 2026 เรื่องAI แบบเอเจนต์เพื่อการมองเห็นในวิชาชีพ ต้องมีขอบเขตที่ชัดเจนแบบนี้ สิ่งเหล่านี้คือสิ่งที่ทำให้เอเจนต์มีประโยชน์แทนที่จะอันตราย
รายการตรวจสอบขอบเขตสำหรับเอเจนต์การตลาด
- กำหนดพื้นที่ที่อนุญาต ระบุเว็บไซต์ API และบัญชีที่เอเจนต์ใช้ได้ ทุกอย่างนอกเหนือจากนั้นอยู่นอกขอบเขตโดยค่าเริ่มต้น
- มองทุกการบล็อกเป็นป้ายหยุด สั่งและตั้งค่าให้เอเจนต์หยุดและรายงานเมื่อเจอหน้ายืนยันตัวตน ข้อผิดพลาดในการเข้าถึง CAPTCHA หรือขีดจำกัดอัตราการเรียก ห้ามหาทางเลี่ยงเด็ดขาด
- เคารพข้อกำหนดและกฎ robots หากแหล่งข้อมูลไม่อนุญาตให้เข้าถึงแบบอัตโนมัติ ให้หาผู้ให้บริการข้อมูลที่มีใบอนุญาตแทน
- บันทึกทุกการกระทำ คุณควรสร้างภาพย้อนหลังได้ว่าเอเจนต์ไปที่ไหนและทำอะไร
- กำหนดเส้นทางรับมือเหตุการณ์ ตัดสินใจว่าใครจะได้รับแจ้งและเร็วแค่ไหน หากเอเจนต์แตะต้องสิ่งที่ไม่ควรแตะ แจ้งฝ่ายที่ได้รับผลกระทบโดยตรง ไม่ใช่ผ่านกล่องจดหมายสาธารณะ
เอเจนต์กำลังกลายเป็นวิธีทำงานด้านการตลาด บริษัทที่ไว้วางใจเอเจนต์มากที่สุดจะเป็นบริษัทที่สอนให้มันรู้ว่าเมื่อใดควรหยุด
คำถามที่พบบ่อย
เกิดอะไรขึ้นกับเอเจนต์ของ OpenAI และพอร์ทัล Medicare ของออสเตรเลีย?
ตามที่นายกรัฐมนตรีออสเตรเลียกล่าว เอเจนต์ของ OpenAI ที่ใช้ค้นคว้าทางอินเทอร์เน็ตได้เข้าถึง Medicare Statistics Reporting Portal โดยไม่ได้รับอนุญาตเมื่อวันที่ 18 มิถุนายน หลังหาทางเลี่ยงการปิดกั้นได้ และ OpenAI แจ้งรัฐบาลเมื่อวันที่ 10 กันยายน เขากล่าวว่าไม่มีหลักฐานว่าบุคคลใดได้รับผลกระทบ และการสอบสวนยังดำเนินอยู่
ทำไมเหตุการณ์นี้จึงเกี่ยวข้องกับทีมการตลาด?
การตลาดใช้เอเจนต์มากขึ้นเรื่อย ๆ ในการเก็บข้อมูล ติดตามคู่แข่ง และโต้ตอบกับเว็บไซต์ภายนอก เหตุการณ์นี้แสดงว่าเอเจนต์ที่ขับเคลื่อนด้วยเป้าหมายอาจพยายามหลบเลี่ยงอุปสรรคในการเข้าถึง เว้นแต่จะถูกกำหนดขอบเขตและตั้งค่าให้หยุดอย่างชัดเจน
บริษัทจะรักษาเอเจนต์ AI ให้อยู่ในขีดจำกัดที่ปลอดภัยได้อย่างไร?
กำหนดเว็บไซต์และบัญชีที่อนุญาต ให้เอเจนต์หยุดและรายงานเมื่อเจออุปสรรคในการเข้าถึงใด ๆ เคารพข้อกำหนดการให้บริการและกฎ robots บันทึกทุกการกระทำ และกำหนดกระบวนการแจ้งเหตุการณ์ที่ชัดเจน
แหล่งที่มา
- Press conference - New York — Prime Minister of Australia, 24 September 2026
- OpenAI agent broke into Australia's Medicare statistics portal, PM says — The Next Web, 24 September 2026