AI 연구소가 출시하지 않을 모델을 발표하는 일은 드뭅니다. 9월 29일, GPT-6 Astra를 출시한 지 4주도 채 되지 않아 OpenAI는 내부 테스트에서 안전 리스크가 드러났다며 후속 모델 GPT-6.1 Astra를 출시하지 않겠다고 밝혔습니다. OpenAI가 지목한 구체적인 결함은 AI 에이전트에게 일을 맡겨 본 사람이라면 누구에게나 익숙할 것입니다.
무슨 일이 있었나
The Wall Street Journal의 첫 보도를 인용한 Al Jazeera에 따르면 OpenAI는 연례 개발자 콘퍼런스 전날 이 결정을 발표했습니다. OpenAI 안전 시스템 책임자 Saachi Jain은 이 모델이 내부 테스트에서 사람의 의사를 따르는 측면에서 회사의 기대에 미치지 못했다고 말했습니다. 그녀는 모델이 일부 영역에서는 이전 모델보다 나아졌지만 “작업 범위와 권한, 그리고 사용자에게 결과를 전달하는 방식”에서 기준을 충족하지 못했다고 밝혔습니다.
Jain은 그 긴장을 직접적으로 설명했습니다. “안전과 정렬에 관한 모든 것에는 트레이드오프가 있습니다.” 그녀는 개발자들이 “작업 범위를 지키면서도 게으름은 피하는 적절한 선”을 찾아야 한다고 말하며, OpenAI가 사용자에게 모델을 내놓을 때는 “안전과 정렬 측면에서 극도로 높은 기준을 둔다”고 덧붙였습니다. 기사는 대신 무엇이 출시될지, 혹은 출시되는 것이 있는지에 대해서는 언급하지 않습니다.
왜 중요한가
세 가지 실패 영역을 다시 읽어 보십시오. 작업 범위, 권한, 사용자에게 결과를 전달하는 방식. 이것들은 특이한 연구 리스크가 아닙니다. 누군가를 대신해 행동하는 모든 시스템의 일상적인 실패 유형입니다.
- 작업 범위: 요청받은 것만 했는가, 아니면 스스로 더 하기로 했는가?
- 권한: 허가받은 곳에서만 행동했는가?
- 소통: 무엇을 했고 무엇을 발견했는지 사용자에게 정확하게 알렸는가?
게으름에 관한 Jain의 지적은 왜 이것이 어려운지 설명합니다. 장애물마다 멈추는 에이전트는 쓸모가 없습니다. 결코 멈추지 않는 에이전트는 위험합니다. 그 둘 사이를 조율하는 것은 이제 모델 개발의 핵심이며, 기업 내부에 에이전트를 배포하는 일에서도 똑같이 핵심입니다.
이 결정 자체도 인정할 만합니다. 일정대로 출시하는 것이 업계의 기본값입니다. 어떤 면에서는 더 유능하지만 다른 면에서 충분히 신뢰할 수 없다는 이유로 모델 출시를 공개적으로 보류하는 것은 우리가 연구소들에게 바라야 할, 그리고 설명을 바라야 할 트레이드오프입니다.
제 연구가 말하는 것
세 번째 실패 영역인 결과 전달은 제 연구 초점과 가깝습니다. 마케팅을 위한 설명 가능한 AI는 시스템의 출력을 그것을 바탕으로 행동해야 하는 사람에게 이해 가능하고 정직하게 만드는 일입니다. Against Opacity(ACM Multimedia 2023)에서 저희는 LLM 어시스턴트로 새 광고의 예측 클릭률을 무엇이 이끄는지 설명했습니다. MindFuse(ACM Multimedia 2025)에서는 실제 광고 데이터로 마케팅 전략을 함께 만드는 설명 가능한 생성형 AI를 구축했습니다.
공통된 맥락은 추천의 유용성이 그 추천이 자신에 대해 얼마나 잘 설명하느냐에 달려 있다는 것입니다. 작업을 완료했지만 부정확하게 보고하는 에이전트는 공개적으로 실패하는 에이전트보다 나쁩니다. 무슨 일이 있었는지에 대한 사람의 그림을 왜곡하기 때문입니다. 에이전트가 점점 더 예산을 바꾸고, 크리에이티브를 집행하고, 메시지를 보내는 마케팅에서는 부정확한 보고가 누군가 알아차리기 전에 실제 비용을 발생시킬 수 있습니다.
저는 Forbes에 마케팅에서 AI 에이전트를 활용하는 방법에 대해서도 썼습니다. 그런 활용이 현실이 될수록, 작업 범위, 권한, 정직한 보고라는 지루한 미덕이 어떤 활용이 살아남을지를 결정할 것입니다.
모든 마케팅 에이전트에 던져야 할 질문
- 작업 범위: 이 에이전트가 정확히 무엇을 할 수 있는지 문서로 볼 수 있습니까? 작업에 그 이상이 필요해 보이면 어떻게 됩니까?
- 권한: 어떤 계정, 예산, 채널을 건드릴 수 있습니까? 그 권한은 사용자 본인의 권한보다 좁습니까?
- 에스컬레이션: 장애물에 부딪히면 멈추고 묻습니까, 아니면 임기응변합니까?
- 보고: 요약 내용이 로그와 일치합니까? 정기적으로 표본 점검하십시오.
- 게으름: 정당한 작업을 너무 일찍 포기하고 있지 않습니까? 완료되지 않은 작업도 지표로 추적하십시오.
프런티어 연구소가 더 유능한 모델이라도 이런 질문을 통과하지 못하면 준비되지 않았다고 판단할 수 있다면, 마케팅 팀도 고객과 예산 앞에 내세우는 에이전트에 같은 기준을 적용할 수 있습니다.
FAQ
OpenAI는 왜 GPT-6.1 Astra를 취소했나요?
Al Jazeera에 따르면 OpenAI 안전 시스템 책임자 Saachi Jain은 내부 테스트에서 이 모델이 사람의 의사를 따르는 측면, 특히 작업 범위와 권한, 그리고 사용자에게 결과를 전달하는 방식에서 부족했다고 말했습니다.
OpenAI는 언제 GPT-6.1 Astra를 출시하지 않겠다고 발표했나요?
The Wall Street Journal이 처음 보도한 뒤, OpenAI는 연례 개발자 콘퍼런스 전날인 2026년 9월 29일 이 결정을 발표했습니다.
기업은 GPT-6.1 Astra 결정에서 무엇을 배울 수 있나요?
AI 에이전트는 작업 범위를 지키는지, 권한이 있는 곳에서만 행동하는지, 한 일을 정확하게 보고하는지로 평가해야 하며, 신중함과 일의 완수 사이의 균형은 의도적으로 조율하고 모니터링해야 한다는 점입니다.
출처
- OpenAI cancels release of AI model GPT-6.1 Astra, citing safety concerns — Al Jazeera, 29 September 2026