Руководство MAS по рискам ИИ: полезный шаблон не только для банков

Регулирование, написанное для банков, редко вдохновляет маркетологов. Но это стоит хотя бы законспектировать. 7 октября Денежно-кредитное управление Сингапура (MAS) опубликовало Guidelines on Artificial Intelligence Risk Management. Прямая аудитория — банки, страховщики и другие финансовые организации. Но логика руководства — готовый шаблон для любой команды, которая использует ИИ для решений о клиентах, включая маркетинг.

Что произошло

Согласно пресс-релизу MAS, руководство распространяется на все финансовые организации и все формы ИИ-технологий и основано на «принципах и соразмерности рискам». MAS проводило консультации по нему в ноябре 2025 года.

Ожидания делятся на несколько групп. Советы директоров и высшее руководство должны контролировать риски ИИ и определять чёткие роли, риск-аппетит и рамки; отдельный комитет по ИИ не обязателен, если существующие структуры обеспечивают надлежащий надзор. Организации должны выявлять случаи использования ИИ, вести их реестры, оценивать существенность каждого и применять соразмерные меры контроля на всём жизненном цикле — управление данными, тестирование, надзор человека, кибербезопасность, мониторинг и управление изменениями. Они остаются ответственными за ИИ в своих услугах, даже если он поступает от третьих сторон, и должны получать подтверждения надёжности и применять компенсирующие меры контроля — либо ограничивать, приостанавливать или заменять услугу, риски которой выходят за пределы их риск-аппетита.

Руководство вступает в силу 7 октября 2027 года, а некоторые разделы применяются к 7 октября 2028 года. MAS также отметило растущее использование агентных ИИ-систем, способных действовать автономно и использовать инструменты, и сообщило, что намерено в 2027 году провести консультации с отраслью о том, какие дополнительные рекомендации были бы полезны.

Почему это важно

Посмотрите, где сегодня ИИ соприкасается с клиентами банка: рекомендации продуктов, движки «следующего лучшего предложения», чат-боты, кредитный маркетинг, проверка на мошенничество, сгенерированный контент в кампаниях. Многое из этого ведёт или заказывает маркетинг. По этому руководству значительная часть должна попасть в реестр, пройти оценку существенности и управляться на всём жизненном цикле.

Для маркетинга важнее всего пункт о третьих сторонах. Маркетинговые команды покупают много ИИ: у рекламных платформ, мартех-вендоров, агентств и фрилансеров с собственными инструментами. MAS ясно говорит, что ответственность остаётся за организацией. «Это сделал вендор» — не мера контроля.

Сроки щедрые, но не длинные. Года до вступления в силу основных разделов достаточно, чтобы как следует составить реестр, и недостаточно, чтобы сделать это в последнем квартале.

Что говорят мои исследования

На WSDM 2023 я выступил с докладом Under the Hood of Social Media Advertising: How Do We use AI Responsibly for Advertising Targeting and Creative Evaluation. Главный аргумент: этические вопросы и вопросы приватности вокруг автоматизированного профилирования, таргетинга и оценки креативов не абстрактны. Они вытекают из конкретных проектных решений, которые можно документировать и контролировать.

Именно это и заставляет делать реестр ИИ. Для каждого случая использования запишите, какие данные поступают на вход, какое решение получается на выходе, кто его проверяет и что происходит, если что-то идёт не так. Мои исследования объяснимого ИИ для маркетинга, от Against Opacity (ACM Multimedia 2023) до MindFuse (ACM Multimedia 2025), построены на том же инстинкте: если рекомендация модели влияет на деньги или клиентов, ответственные люди должны видеть, почему она дана.

Я также доказывал в Forbes, что прозрачность важна для компаний, движимых маркетингом. Теперь регуляторы превращают этот принцип в надзорные ожидания. Командам, которые уже практикуют объяснимость, соответствие требованиям обойдётся гораздо дешевле.

Практический чек-лист для маркетинговых команд (в финансах и не только)

• Составьте реестр. Перечислите все ИИ-системы, которые маркетинг использует или заказывает: таргетинг, рекомендации, чат-боты, генерация контента, оценка креативов, аналитика.
• Честно оценивайте существенность. Инструмент, который пишет черновики внутренних заметок, — низкий риск. Модель, решающая, какие клиенты увидят кредитное предложение, — нет.
• Составьте карту третьих сторон. Для каждого вендора и агентства фиксируйте, какой ИИ они используют от вашего имени и какие подтверждения надёжности вы получили.
• Ставьте людей там, где это важно. Определите, где обязательна проверка человеком перед публикацией материалов для клиентов.
• Отслеживайте после запуска. Модели дрейфуют, кампании меняются. Планируйте проверки, особенно после обновлений моделей у вендоров.
• Следите за консультациями по агентному ИИ. Если вы тестируете агентов, работающих с данными клиентов, ожидайте конкретных рекомендаций и уже сейчас проектируйте с расчётом на аудит.

У сингапурских регуляторов есть привычка писать рекомендации, которые позже становятся стандартом для всего региона. Если ваша компания работает по всей Юго-Восточной Азии, разумно воспринимать это руководство как предварительный обзор, даже если вы не банк.

Частые вопросы