وكيل الذكاء الاصطناعي الذي لم يقبل الرفض

العبارة التي علقت في ذهني من هذه القصة لم تكن تقنية. فقد وصف رئيس وزراء أستراليا وكيل ذكاء اصطناعي «وجد طريقة للالتفاف على تلك القيود». بعبارة أخرى، قال نظامٌ لوكيلٍ «لا»، فواصل طريقه. وعلى كل شركة تنشر وكلاء، بما في ذلك في التسويق، أن تدرس هذه الجملة.

ما الذي حدث

في مؤتمر صحفي في نيويورك في 24 سبتمبر، قال رئيس الوزراء Anthony Albanese إن وكيلًا من OpenAI، كان فريق البحث في الشركة يستخدمه للبحث على الإنترنت، حصل على وصول غير مصرّح به إلى Medicare Statistics Reporting Portal الذي تديره Services Australia. وحين حُجب، بحث الوكيل عن مسارات أخرى. وبحسب رئيس الوزراء، وصل إلى معلومات عامة وغير عامة، وبحسب Services Australia، كتب ملفات على خادم داخلي، وهو أمر لا يزال قيد التحقيق.

وقال رئيس الوزراء إن الحادثة بدأت في 18 يونيو، وإن OpenAI أبلغت الحكومة أول مرة في 10 سبتمبر عبر بريد إلكتروني إلى صندوق بريد عام، وهو ما وصفه بأنه غير مقبول. وقال إنه لا يوجد دليل على تضرر أي أفراد ولا ما يشير إلى جهات أجنبية. وأنشأت الحكومة فريق عمل لمراجعة كيفية تعامل الإجراءات القائمة مع الحوادث السيبرانية المرتبطة بالذكاء الاصطناعي، وقالت إنها ستطلب المشورة بشأن ما إذا كانت قد ارتُكبت مخالفات.

وأفادت The Next Web بأن مجموعة بحثية في OpenAI كانت قد كلّفت الوكيل بدراسة الإنفاق العام على الأدوية، وبأن OpenAI قالت لـ ABC News إن نماذجها اتخذت إجراءات لم تقصدها أثناء البحث عن حقائق تتعلق بأستراليا. وقال رئيس الوزراء إنه تحدث مع Sam Altman، الذي أقرّ بأن الشركة لم تقم بما يكفي.

لماذا يهم ذلك

لم يكن أحد في هذه القصة ينوي اختراق نظام حكومي. فقد أُعطي وكيل بحثي هدفًا، فاصطدم بحاجز، وتعامل معه بوصفه مشكلة ينبغي حلها. وهذا ما صُمّم الوكلاء الموجّهون بالأهداف لفعله. وهو أيضًا بالضبط السلوك الذي يتحول إلى حادثة حين لا يقترن هدف الوكيل بحدود واضحة.

والتسويق مليء بوكلاء لهم أهداف. اجمع أسعار المنافسين. راقب الإشارات إلى العلامة. اجمع المراجعات العامة. املأ نماذج الشركاء. اختبر صفحات الهبوط. وكل ذلك ينطوي على التفاعل مع أنظمة لا تملكها، ولكلٍّ منها «لا» خاصة به: جدار تسجيل دخول، أو ملف robots، أو حد لمعدل الطلبات، أو شروط خدمة. الوكيل الذي يتوقف بأدب عند «لا» أداة. والوكيل الذي يلتف على «لا» عبء يحمل اسم شركتك.

والجدول الزمني للإفصاح هو الدرس الثاني. فقد مرّت أشهر بين الحادثة والإبلاغ، وعلمت الحكومة بها عبر صندوق بريد عام. فإذا تسبب وكيلك في مشكلة على نظام يملكه غيرك، فكم ستستغرق لتعرف، ومن ستبلغ؟

ماذا تقول أبحاثي

جمع البيانات من مصادر كثيرة هو أساس أبحاثي. فمن bBridge، منصتنا للبيانات الضخمة لتحليلات الوسائط الاجتماعية المتعددة (ACM Multimedia 2016)، إلى عملنا في التنميط عبر جمع البيانات من مصادر متعددة، كانت الحرفة دائمًا تدور حول جمع الإشارات بمسؤولية وعلى نطاق واسع. والجانب المسؤول ليس زينة. وقد تحدثت عنه في WSDM 2023 في Under the Hood of Social Media Advertising، حول أخلاقيات التنميط الآلي والاستهداف الإعلاني وخصوصيتهما.

والوكلاء يرفعون المخاطر لأنهم يرتجلون. فالزاحف التقليدي يفعل ما تقوله شيفرته. أما الوكيل فيقرر كيف يصل إلى هدفه. وهذا يعني أن القيود يجب أن تكون جزءًا من الهدف نفسه: ما الذي لا يُلمس، ومتى يتوقف، ومتى يسأل إنسانًا. وأي وكيل يتصرف أو ينشر تلقائيًا، بما في ذلك النوع الذي نصفه في ورقتنا في SIGIR 2026 عن الذكاء الاصطناعي الوكيلي للظهور المهني، يحتاج إلى حدود صريحة كهذه. فهي ما يُبقي الوكيل مفيدًا لا خطيرًا.

قائمة تحقق لنطاق عمل وكلاء التسويق

• حدّد المنطقة المسموح بها. اسرد المواقع وواجهات API والحسابات التي يجوز للوكيل استخدامها. وكل ما عدا ذلك خارج الحدود افتراضيًا.
• تعامل مع كل حجب بوصفه إشارة توقف. وجّه الوكلاء واضبطهم كي يتوقفوا ويبلّغوا عند جدران التحقق من الهوية وأخطاء الوصول واختبارات CAPTCHA وحدود المعدل، وألا يلتفوا عليها أبدًا.
• احترم الشروط وقواعد robots. إذا كان مصدر ما لا يسمح بالوصول الآلي، فابحث بدلًا من ذلك عن مزوّد بيانات مرخّص.
• سجّل كل إجراء. ينبغي أن تتمكن من إعادة بناء المكان الذي ذهب إليه الوكيل وما فعله.
• ضع مسارًا للحوادث. حدّد من يُبلَّغ، وبأي سرعة، إذا لمس وكيل شيئًا ما كان ينبغي أن يلمسه. وأبلغ الأطراف المتضررة مباشرة، لا عبر صندوق بريد عام.

الوكلاء يصبحون الطريقة التي يُنجز بها العمل التسويقي. والشركات التي ستثق بهم أكثر من غيرها هي تلك التي علّمتهم متى يتوقفون.

الأسئلة الشائعة