Соглашение Белого дома по ИИ и независимые оценщики

У добровольных обязательств ИИ-компаний неоднозначная репутация. Некоторые забываются в течение года. Последнее интересно не церемонией в Белом доме, а одной конкретной идеей внутри него: независимыми оценщиками. Две недели спустя одна лаборатория показала, как это может выглядеть на практике.

Что произошло

По данным Forbes, 29 сентября президент Трамп и руководители нескольких технологических компаний подписали «White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities» — документ чуть длиннее 300 слов. Среди подписантов помимо президента названы Elon Musk, Mark Zuckerberg, Jensen Huang, Dario Amodei, Sundar Pichai и президент OpenAI Greg Brockman.

Forbes выделяет четыре обязательства для компаний, обучающих и внедряющих передовые модели: поддерживать внутренние меры контроля, отслеживающие возможности и согласованность моделей, в том числе гарантировать, что модели не получают непреднамеренный доступ к техническим системам; поручить внутренней команде следить за работой этих мер и устранением проблем; сотрудничать с «независимым внешним аудитором или оценщиком»; и назначить «независимый комитет совета директоров» для надзора за мерами контроля и аудиторами. Трамп назвал соглашение «морально обязывающим» и «в каком-то смысле почти конституцией». MercoPress отмечает, что оно не предусматривает последствий за нарушения, и цитирует профессора Сиднейского университета Kimberlee Weatherall, назвавшую его «совершенно невпечатляющим».

15 октября Anthropic опубликовала An update on independent evaluators. В публикации сказано, что команда METR — некоммерческой организации, оценивающей передовые модели, — получила доступ на уровне сотрудников: шесть сотрудников METR прошли онбординг с корпоративным оборудованием и внутренними инструментами, в целом наравне с собственными командами Anthropic по рискам. METR будет публиковать свои оценки рисков; Anthropic говорит, что не может наложить вето на эти публикации, но может потребовать удалить заранее определённые категории сведений, например конфиденциальную ИС. Anthropic сравнивает эту модель с тем, как банковские надзорные органы размещают инспекторов внутри крупных банков, и говорит, что так должны поступать все компании, создающие передовой ИИ.

Почему это важно

Соглашение скудное, и критики правы: добровольный текст без последствий ничего не гарантирует. Но обязательство о независимых оценщиках — полезная зацепка, потому что его можно проверить. Либо у компании есть внешний оценщик с реальным доступом и свободой публикации, либо нет.

Подход Anthropic задаёт видимую планку: глубокий доступ, право на публикацию и чёткие пределы на изъятия. Теперь с ней можно сравнивать другие компании. Так добровольные обязательства становятся нормами.

Что говорят мои исследования

Моя область исследований, объяснимый ИИ для маркетинга, стоит на том же принципе в меньшем масштабе: утверждения о том, что делает модель, должен иметь возможность проверить кто-то помимо её владельца. В Against Opacity (ACM Multimedia 2023) и MindFuse (ACM Multimedia 2025) слой объяснений существует для того, чтобы маркетолог мог проверить, почему сделан прогноз, а не принимать его на веру.

Я доказывал в Forbes, что прозрачность важна для компаний, движимых маркетингом. Передовые лаборатории теперь приходят к версии этого принципа для безопасности: внутренние меры контроля, внутренние команды, внешние оценщики, надзор совета директоров. Маркетинговый ИИ не несёт таких катастрофических рисков, но реальные риски у него есть: предвзятый таргетинг, вводящие в заблуждение утверждения, утечки персональных данных, бюджеты, потраченные на неверный сигнал. Та же четырёхуровневая структура хорошо масштабируется вниз.

Четырёхуровневая модель управления маркетинговым ИИ

• Внутренние меры контроля. Отслеживайте, что делают ваши ИИ-системы: на какие аудитории нацеливаются, какие утверждения генерируют, какие данные используют.
• Внутренний ответственный. Назначьте человека или команду, отвечающих за проверку этих мер и устранение проблем.
• Взгляд со стороны. Пусть независимая сторона — аудитор, исследовательский партнёр или второй вендор — периодически тестирует ваши ключевые модели и утверждения.
• Надзор руководства. Сообщайте о рисках ИИ руководству так же, как о финансовых рисках, с полномочиями приостановить систему.

Покупая маркетинговый ИИ, задавайте вендорам те же вопросы, что поднимает соглашение. Кто оценивает ваши модели извне? Какой у них доступ? Могут ли они публиковать результаты? Ответы скажут больше, чем список функций.

Частые вопросы