백악관 AI 협약과 독립 평가 기관

AI 기업들의 자발적 약속은 엇갈린 이력을 갖고 있습니다. 어떤 것은 1년 안에 잊힙니다. 이번 약속이 흥미로운 이유는 백악관의 행사가 아니라 그 안에 담긴 구체적인 아이디어 하나, 바로 독립 평가자입니다. 2주 뒤 한 연구소가 그것이 실제로 어떤 모습일 수 있는지 보여 주었습니다.

무슨 일이 있었나

Forbes에 따르면 9월 29일 트럼프 대통령과 여러 테크 기업의 수장들은 300단어를 조금 넘는 문서인 “White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities”에 서명했습니다. 대통령과 함께 서명자로 이름을 올린 이들은 Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai, 그리고 OpenAI 회장 Greg Brockman입니다.

Forbes는 프런티어 모델을 훈련하고 배포하는 기업을 위한 네 가지 약속을 요약합니다. 모델이 의도하지 않은 방식으로 기술 시스템에 접근하지 않도록 하는 것을 포함해 모델의 역량과 정렬을 모니터링하는 내부 통제를 유지할 것, 내부 팀이 그 통제가 작동하고 문제가 해결되도록 할 것, “독립적인 외부 감사인 또는 평가자”와 협력할 것, 통제와 감사인을 감독하는 “이사회의 독립 위원회”를 지정할 것입니다. 트럼프 대통령은 이 협약을 “도덕적 구속력이 있다”며 “어떤 면에서는 거의 헌법과 같다”고 했습니다. MercoPress는 협약이 위반에 대한 결과를 정하지 않는다고 지적하며, 시드니 대학교 Kimberlee Weatherall 교수가 이를 “전혀 인상적이지 않다”고 평가했다고 인용합니다.

10월 15일 Anthropic은 An update on independent evaluators를 발표했습니다. 프런티어 모델을 평가하는 비영리 단체 METR의 팀에게 직원 수준의 접근 권한을 부여했다는 내용입니다. METR 직원 6명이 회사 하드웨어와 내부 도구를 지급받아 합류했으며, 이는 Anthropic 자체 리스크 팀과 대체로 같은 수준입니다. METR은 자체 리스크 평가를 공개할 예정이며, Anthropic은 그 공개를 거부할 수 없지만 기밀 IP 같은 사전에 정한 범주의 삭제는 요구할 수 있다고 말합니다. Anthropic은 이 모델을 대형 은행 내부에 검사관을 상주시키는 은행 감독 당국에 비유하며, 모든 프런티어 AI 기업이 같은 방식을 따라야 한다고 말합니다.

왜 중요한가

협약은 얄팍하며, 결과가 따르지 않는 자발적 문서는 아무것도 보장하지 않는다는 비판은 옳습니다. 하지만 독립 평가자 약속은 확인할 수 있기 때문에 유용한 고리입니다. 기업에 실질적인 접근 권한과 공개의 자유를 가진 외부 평가자가 있거나, 없거나 둘 중 하나입니다.

Anthropic의 방식은 깊은 접근, 공개 권리, 명확한 삭제 한도라는 눈에 보이는 기준을 세웁니다. 이제 다른 기업들을 그 기준과 비교할 수 있습니다. 자발적 약속은 그렇게 규범이 됩니다.

제 연구가 말하는 것

제 연구 분야인 마케팅을 위한 설명 가능한 AI도 더 작은 규모에서 같은 원칙에 기반합니다. 모델이 무엇을 하는지에 관한 주장은 모델 소유자가 아닌 다른 누군가가 검증할 수 있어야 한다는 것입니다. Against Opacity(ACM Multimedia 2023)와 MindFuse(ACM Multimedia 2025)에서 설명 계층은 마케터가 예측을 믿음으로 받아들이는 대신 왜 그런 예측이 나왔는지 확인할 수 있도록 존재합니다.

저는 Forbes에서 마케팅 중심 기업에 투명성이 중요하다고 주장했습니다. 프런티어 연구소들은 이제 안전을 위해 그것의 한 형태로 수렴하고 있습니다. 내부 통제, 내부 팀, 외부 평가자, 이사회 감독입니다. 마케팅 AI는 같은 수준의 재앙적 리스크를 지니지는 않지만, 편향된 타기팅, 오해를 부르는 주장, 개인정보 유출, 잘못된 신호에 쓰인 예산 같은 실질적인 리스크를 지닙니다. 같은 4계층 구조는 작은 규모에도 잘 적용됩니다.

마케팅 AI 거버넌스를 위한 4계층 모델

• 내부 통제. AI 시스템이 무엇을 하는지 모니터링하십시오. 어떤 오디언스를 타기팅하는지, 어떤 주장을 생성하는지, 어떤 데이터를 쓰는지.
• 내부 담당자. 그 통제를 확인하고 문제를 해결할 책임자나 팀을 지정하십시오.
• 외부의 눈. 감사인, 연구 파트너, 다른 벤더 같은 독립적인 당사자가 주요 모델과 주장을 주기적으로 테스트하게 하십시오.
• 경영진 감독. 재무 리스크를 보고하듯 AI 리스크를 경영진에 보고하고, 시스템을 일시 중지할 권한을 두십시오.

마케팅 AI를 구매할 때는 협약이 제기하는 것과 같은 질문을 벤더에게 던지십시오. 외부에서 누가 모델을 평가합니까? 그들은 어떤 접근 권한을 갖고 있습니까? 발견한 내용을 공개할 수 있습니까? 그 답이 기능 목록보다 더 많은 것을 알려 줄 것입니다.

FAQ