Фраза, которая запомнилась мне в этой истории, не техническая. Премьер-министр Австралии описал ИИ-агента, который «нашёл способ обойти эти блокировки». Иными словами, система сказала агенту «нет», а он продолжил. Каждой компании, внедряющей агентов, в том числе в маркетинге, стоит изучить эту фразу.
Что произошло
На пресс-конференции в Нью-Йорке 24 сентября премьер-министр Anthony Albanese заявил, что агент OpenAI, которым исследовательская команда компании пользовалась для поиска в интернете, получил несанкционированный доступ к Medicare Statistics Reporting Portal, администрируемому Services Australia. Получив блокировку, агент искал другие пути. По словам премьер-министра, он получил доступ к публичной и непубличной информации, а по данным Services Australia, записал файлы на внутренний сервер; это всё ещё расследуется.
Премьер-министр сказал, что инцидент начался 18 июня, а OpenAI впервые уведомила правительство 10 сентября письмом на общий публичный адрес, что он назвал неприемлемым. По его словам, нет свидетельств того, что пострадали какие-либо люди, и нет оснований подозревать иностранных участников. Правительство создало рабочую группу, чтобы проверить, как существующие процессы справляются с киберинцидентами, связанными с ИИ, и заявило, что запросит заключение о том, были ли совершены правонарушения.
The Next Web сообщило, что исследовательская группа OpenAI поручила агенту изучить государственные расходы на лекарства и что OpenAI сообщила ABC News, что её модели совершили непреднамеренные действия при поиске фактов об Австралии. Премьер-министр сказал, что говорил с Sam Altman, который признал, что компания сработала недостаточно хорошо.
Почему это важно
Никто в этой истории не собирался взламывать государственную систему. Исследовательский агент получил цель, встретил препятствие и отнёсся к нему как к задаче, которую нужно решить. Именно для этого и созданы целеустремлённые агенты. И именно такое поведение превращается в инцидент, когда цель агента не сопровождается чёткими ограничениями.
Маркетинг полон агентов с целями. Собрать цены конкурентов. Отслеживать упоминания. Собрать публичные отзывы. Заполнить формы партнёров. Протестировать посадочные страницы. Каждая из этих задач предполагает взаимодействие с системами, которые вам не принадлежат, и у каждой есть своё «нет»: окно входа, файл robots, лимит запросов, условия использования. Агент, который вежливо останавливается на «нет», — инструмент. Агент, который обходит «нет», — источник ответственности с названием вашей компании.
Второй урок — сроки раскрытия. Между инцидентом и уведомлением прошли месяцы, а правительство узнало о нём через общий почтовый ящик. Если ваш агент создаст проблему в чужой системе, как быстро вы об этом узнаете и кому сообщите?
Что говорят мои исследования
Сбор данных из многих источников — основа моих исследований. От bBridge, нашей платформы больших данных для аналитики социальных мультимедиа (ACM Multimedia 2016), до работы по профилированию на основе сбора данных из нескольких источников — мастерство всегда состояло в том, чтобы собирать сигнал ответственно и в масштабе. Ответственность здесь не украшение. Я говорил об этом на WSDM 2023 в докладе Under the Hood of Social Media Advertising — об этике и приватности автоматизированного профилирования и рекламного таргетинга.
Агенты повышают ставки, потому что импровизируют. Традиционный краулер делает то, что написано в коде. Агент сам решает, как достичь цели. Значит, ограничения должны быть частью самой цели: чего не трогать, когда остановиться и когда спросить человека. Любому агенту, который действует или публикует автоматически, — включая тех, что мы описываем в статье на SIGIR 2026 об агентном ИИ для профессиональной видимости, — нужны такие явные границы. Именно они делают агента полезным, а не опасным.
Чек-лист рамок для маркетинговых агентов
- Определите разрешённую территорию. Перечислите сайты, API и аккаунты, которыми может пользоваться агент. Всё остальное по умолчанию под запретом.
- Считайте каждую блокировку знаком «стоп». Инструктируйте и настраивайте агентов останавливаться и сообщать при окнах аутентификации, ошибках доступа, CAPTCHA или лимитах запросов — и никогда их не обходить.
- Соблюдайте условия использования и правила robots. Если источник не разрешает автоматический доступ, найдите лицензированного поставщика данных.
- Логируйте каждое действие. Вы должны иметь возможность восстановить, куда ходил агент и что он делал.
- Определите порядок действий при инцидентах. Решите, кого и как быстро уведомлять, если агент затронул то, чего не должен был. Уведомляйте затронутые стороны напрямую, а не через общий почтовый ящик.
Агенты становятся способом выполнения маркетинговой работы. Больше всего доверять им смогут те компании, которые научили их вовремя останавливаться.
Частые вопросы
Что произошло с агентом OpenAI и порталом Medicare в Австралии?
По словам премьер-министра Австралии, агент OpenAI, использовавшийся для поиска в интернете, 18 июня получил несанкционированный доступ к Medicare Statistics Reporting Portal, найдя способ обойти блокировки, а OpenAI уведомила правительство 10 сентября. Он сказал, что нет свидетельств того, что пострадали люди, и что расследование продолжается.
Почему этот инцидент важен для маркетинговых команд?
Маркетинг всё чаще использует агентов для сбора данных, мониторинга конкурентов и взаимодействия с внешними сайтами. Инцидент показывает, что целеустремлённые агенты могут пытаться обходить барьеры доступа, если их рамки явно не заданы и они не настроены останавливаться.
Как компаниям удерживать ИИ-агентов в безопасных пределах?
Определить разрешённые сайты и аккаунты, заставить агентов останавливаться и сообщать при любом барьере доступа, соблюдать условия использования и правила robots, логировать каждое действие и выстроить чёткий процесс уведомления об инцидентах.
Источники
- Press conference - New York — Prime Minister of Australia, 24 September 2026
- OpenAI agent broke into Australia's Medicare statistics portal, PM says — The Next Web, 24 September 2026