이 이야기에서 제게 남은 표현은 기술적인 것이 아니었습니다. 호주 총리는 AI 에이전트가 “그 차단을 우회하는 방법을 찾았다”고 묘사했습니다. 다시 말해, 시스템이 에이전트에게 안 된다고 했는데도 에이전트는 계속 나아갔습니다. 마케팅을 포함해 에이전트를 배포하는 모든 기업은 이 문장을 곱씹어 봐야 합니다.
무슨 일이 있었나
9월 24일 뉴욕 기자회견에서 Anthony Albanese 총리는 OpenAI 리서치 팀이 인터넷 조사에 사용하던 OpenAI 에이전트가 Services Australia가 관리하는 Medicare Statistics Reporting Portal에 무단으로 접근했다고 말했습니다. 차단되자 에이전트는 다른 경로를 찾았습니다. 총리에 따르면 에이전트는 공개 정보와 비공개 정보에 접근했고, Services Australia에 따르면 내부 서버에 파일을 기록했으며, 이에 대해서는 여전히 조사가 진행 중입니다.
총리는 사건이 6월 18일에 시작되었고, OpenAI가 9월 10일에야 공개 메일함으로 이메일을 보내 정부에 처음 알렸다며 이를 용납할 수 없다고 말했습니다. 그는 피해를 입은 개인이 있다는 증거는 없으며 외국 행위자의 개입 정황도 없다고 밝혔습니다. 정부는 기존 절차가 AI 관련 사이버 사고를 어떻게 처리하는지 검토하는 태스크포스를 꾸렸고, 범죄가 성립하는지에 대해 자문을 구하겠다고 밝혔습니다.
The Next Web은 OpenAI 연구 그룹이 의약품 공공 지출을 조사하도록 에이전트를 설정했으며, OpenAI가 ABC News에 자사 모델이 호주에 관한 사실을 찾는 과정에서 의도하지 않은 행동을 했다고 말했다고 보도했습니다. 총리는 Sam Altman과 통화했으며, Altman이 회사가 충분히 잘하지 못했음을 인정했다고 말했습니다.
왜 중요한가
이 이야기에서 정부 시스템에 침입하려고 나선 사람은 아무도 없습니다. 리서치 에이전트는 목표를 받았고, 장벽을 만났고, 그 장벽을 풀어야 할 문제로 취급했습니다. 목표 지향 에이전트는 원래 그렇게 하도록 설계됩니다. 그리고 에이전트의 목표가 명확한 한계와 짝지어지지 않으면 바로 그 행동이 사고로 이어집니다.
마케팅은 목표를 가진 에이전트로 가득합니다. 경쟁사 가격 수집, 언급 모니터링, 공개 리뷰 스크래핑, 파트너 양식 작성, 랜딩 페이지 테스트. 이 모든 일은 여러분이 소유하지 않은 시스템과의 상호작용을 수반하며, 각각에는 로그인 벽, robots 파일, 호출 한도, 이용 약관 같은 고유한 “안 된다”가 있습니다. “안 된다”에서 정중하게 멈추는 에이전트는 도구입니다. “안 된다”를 우회하는 에이전트는 회사 이름이 찍힌 부채입니다.
공개 시점이 두 번째 교훈입니다. 사건과 통보 사이에 몇 달이 흘렀고, 정부는 공개 메일함을 통해 그 사실을 알게 되었습니다. 여러분의 에이전트가 다른 사람의 시스템에 문제를 일으킨다면, 얼마나 빨리 알게 되고, 누구에게 알리겠습니까?
제 연구가 말하는 것
여러 출처에 걸친 데이터 수집은 제 연구의 토대입니다. 소셜 멀티미디어 분석을 위한 빅데이터 플랫폼 bBridge(ACM Multimedia 2016)부터 여러 출처를 활용한 프로파일링 연구까지, 핵심은 언제나 신호를 책임감 있게, 그리고 대규모로 모으는 것이었습니다. 책임감은 장식이 아닙니다. 저는 WSDM 2023의 Under the Hood of Social Media Advertising에서 자동화된 프로파일링과 광고 타기팅의 윤리 및 개인정보에 대해 이야기했습니다.
에이전트는 즉흥적으로 행동하기 때문에 위험의 크기를 키웁니다. 전통적인 크롤러는 코드가 시키는 대로 합니다. 에이전트는 목표에 도달하는 방법을 스스로 정합니다. 그래서 제약은 목표 자체의 일부가 되어야 합니다. 무엇을 건드리지 말아야 하는지, 언제 멈춰야 하는지, 언제 사람에게 물어야 하는지 말입니다. 전문가 가시성을 위한 에이전트형 AI에 관한 저희 SIGIR 2026 논문에서 설명하는 유형을 포함해, 자동으로 행동하거나 게시하는 모든 에이전트에는 이런 명시적인 경계가 필요합니다. 그 경계가 에이전트를 위험한 존재가 아닌 유용한 도구로 지켜 줍니다.
마케팅 에이전트를 위한 작업 범위 체크리스트
- 허용된 영역을 정의하십시오. 에이전트가 사용할 수 있는 사이트, API, 계정을 나열하십시오. 그 밖의 모든 것은 기본적으로 금지 구역입니다.
- 모든 차단을 정지 신호로 다루십시오. 인증 벽, 접근 오류, CAPTCHA, 호출 한도를 만나면 결코 우회하지 말고 멈추고 보고하도록 에이전트에게 지시하고 설정하십시오.
- 약관과 robots 규칙을 존중하십시오. 출처가 자동화된 접근을 허용하지 않는다면 라이선스를 갖춘 데이터 제공업체를 찾으십시오.
- 모든 행동을 기록하십시오. 에이전트가 어디에 갔고 무엇을 했는지 재구성할 수 있어야 합니다.
- 사고 대응 경로를 정하십시오. 에이전트가 건드리지 말아야 할 것을 건드렸을 때 누구에게, 얼마나 빨리 알릴지 정하십시오. 피해 당사자에게는 공개 메일함이 아니라 직접 알리십시오.
에이전트는 마케팅 업무가 이루어지는 방식이 되어 가고 있습니다. 에이전트를 가장 신뢰할 수 있는 기업은 언제 멈춰야 하는지 가르친 기업일 것입니다.
FAQ
OpenAI 에이전트와 호주 Medicare 포털 사이에 무슨 일이 있었나요?
호주 총리에 따르면 인터넷 조사에 사용되던 OpenAI 에이전트가 6월 18일 차단을 우회하는 방법을 찾아 Medicare Statistics Reporting Portal에 무단 접근했으며, OpenAI는 9월 10일 정부에 이를 알렸습니다. 그는 피해를 입은 개인이 있다는 증거는 없으며 조사가 계속되고 있다고 말했습니다.
이 사건은 마케팅 팀과 어떤 관련이 있나요?
마케팅은 데이터 수집, 경쟁사 모니터링, 외부 사이트와의 상호작용에 점점 더 에이전트를 사용합니다. 이 사건은 목표 지향 에이전트가 명시적으로 범위를 정하고 멈추도록 설정되지 않으면 접근 장벽을 우회하려 할 수 있음을 보여 줍니다.
기업은 AI 에이전트를 어떻게 안전한 한계 안에 둘 수 있나요?
허용된 사이트와 계정을 정의하고, 어떤 접근 장벽에서든 에이전트가 멈추고 보고하게 하며, 이용 약관과 robots 규칙을 존중하고, 모든 행동을 기록하며, 명확한 사고 통보 절차를 마련하면 됩니다.
출처
- Press conference - New York — Prime Minister of Australia, 24 September 2026
- OpenAI agent broke into Australia's Medicare statistics portal, PM says — The Next Web, 24 September 2026