MAS AI 리스크 가이드라인: 은행 밖에서도 유용한 템플릿

은행을 위해 쓰인 규제가 마케터를 설레게 하는 일은 드뭅니다. 하지만 이번 것은 적어도 메모는 해 둘 만합니다. 10월 7일 싱가포르 통화청(MAS)은 Guidelines on Artificial Intelligence Risk Management를 발표했습니다. 직접적인 대상은 은행, 보험사 및 기타 금융기관입니다. 하지만 가이드라인의 논리는 마케팅을 포함해 고객에 관한 결정에 AI를 쓰는 모든 팀에게 깔끔한 템플릿이 됩니다.

무슨 일이 있었나

MAS의 보도자료에 따르면 가이드라인은 “원칙 기반이며 리스크에 비례하는 접근 방식”으로 모든 금융기관과 모든 형태의 AI 기술에 적용됩니다. MAS는 2025년 11월 이에 대한 의견 수렴을 진행했습니다.

기대 사항은 몇 가지 묶음으로 나뉩니다. 이사회와 고위 경영진은 AI 리스크를 감독하고 명확한 역할, 리스크 성향, 프레임워크를 정해야 합니다. 기존 구조가 적절한 감독을 제공한다면 별도의 AI 위원회는 필요하지 않습니다. 기관은 AI 활용을 식별하고, 인벤토리를 유지하며, 각 활용의 중요도를 평가하고, 데이터 거버넌스, 테스트, 사람의 감독, 사이버 보안, 모니터링, 변경 관리를 포괄하는 비례적 통제를 수명 주기 전반에 적용해야 합니다. 제3자에게서 온 AI라도 자사 서비스에 쓰인 AI에 대해서는 책임을 지며, 보증을 확보하고 보완 통제를 적용하거나, 리스크가 감내 범위를 벗어나는 서비스는 제한, 중단, 교체해야 합니다.

가이드라인은 2027년 10월 7일 시행되며, 일부 조항은 2028년 10월 7일까지 적용됩니다. MAS는 또한 자율적으로 행동하고 도구를 사용할 수 있는 에이전트형 AI 시스템의 활용이 늘고 있다고 지적하며, 2027년에 어떤 추가 지침이 유용할지 업계 의견을 수렴할 계획이라고 밝혔습니다.

왜 중요한가

오늘날 은행에서 AI가 고객과 닿는 곳을 보십시오. 상품 추천, 차선 제안 엔진, 챗봇, 신용 상품 마케팅, 사기 탐지, 캠페인의 생성 콘텐츠. 상당수는 마케팅이 운영하거나 의뢰합니다. 이 가이드라인에 따르면 그중 많은 것이 인벤토리에 올라가고, 중요도를 평가받고, 수명 주기 전반에 걸쳐 관리되어야 합니다.

마케팅에 가장 중요한 것은 제3자 조항입니다. 마케팅 팀은 광고 플랫폼, 마테크 벤더, 에이전시, 자체 도구를 쓰는 프리랜서에게서 많은 AI를 삽니다. MAS는 책임이 기관에 남는다는 점을 분명히 합니다. “벤더가 한 일”은 통제 수단이 아닙니다.

그리고 일정은 넉넉하지만 길지는 않습니다. 주요 조항이 시행되기까지 1년은 인벤토리를 제대로 구축하기에는 충분하지만, 마지막 분기에 몰아서 하기에는 충분하지 않습니다.

제 연구가 말하는 것

저는 WSDM 2023에서 Under the Hood of Social Media Advertising: How Do We use AI Responsibly for Advertising Targeting and Creative Evaluation이라는 제목으로 강연했습니다. 핵심 주장은 자동화된 프로파일링, 타기팅, 크리에이티브 평가를 둘러싼 윤리와 개인정보 문제가 추상적이지 않다는 것이었습니다. 그것들은 문서화하고 통제할 수 있는 구체적인 설계 선택에서 비롯됩니다.

AI 인벤토리가 강제하는 것이 바로 그것입니다. 활용마다 어떤 데이터가 들어가고, 어떤 결정이 나오며, 누가 확인하고, 잘못되면 어떻게 되는지 적는 것입니다. Against Opacity(ACM Multimedia 2023)부터 MindFuse(ACM Multimedia 2025)까지 마케팅을 위한 설명 가능한 AI에 관한 제 연구도 같은 직관 위에 세워졌습니다. 모델의 추천이 돈이나 고객에게 영향을 준다면, 책임자는 왜 그런 추천이 나왔는지 볼 수 있어야 한다는 것입니다.

저는 Forbes에서 마케팅 중심 기업에 투명성이 중요하다고도 주장했습니다. 이제 규제 당국이 그 원칙을 감독상의 기대 사항으로 바꾸고 있습니다. 이미 설명 가능성을 실천하는 팀은 훨씬 적은 비용으로 컴플라이언스를 갖출 수 있을 것입니다.

마케팅 팀을 위한 실용 체크리스트(금융권과 그 밖의 분야)

• 인벤토리를 만드십시오. 타기팅, 추천, 챗봇, 콘텐츠 생성, 크리에이티브 평가, 분석 등 마케팅이 사용하거나 의뢰하는 모든 AI 시스템을 목록으로 정리하십시오.
• 중요도를 정직하게 평가하십시오. 내부 메모 초안을 쓰는 도구는 리스크가 낮습니다. 어떤 고객이 신용 상품 제안을 볼지 정하는 모델은 그렇지 않습니다.
• 제3자를 파악하십시오. 각 벤더와 에이전시가 여러분을 대신해 어떤 AI를 쓰는지, 어떤 보증을 받았는지 기록하십시오.
• 중요한 곳에 사람을 두십시오. 고객 대상 출력물이 게시되기 전에 사람의 검토가 필요한 지점을 정하십시오.
• 출시 후 모니터링하십시오. 모델은 변하고 캠페인은 바뀝니다. 특히 벤더의 모델 업데이트 이후에는 검토 일정을 잡으십시오.
• 에이전트형 AI 의견 수렴을 주시하십시오. 고객 데이터로 행동하는 에이전트를 시범 운영하고 있다면 구체적인 지침을 예상하고 지금부터 감사 가능하도록 설계하십시오.

싱가포르 규제 당국은 나중에 지역의 기본값이 되는 지침을 쓰는 경향이 있습니다. 동남아시아 전역에서 사업을 한다면, 은행이 아니더라도 이 가이드라인을 미리 보기로 다루는 것이 합리적입니다.

FAQ