Правила ИИ теперь приравнивают фейковый коммерческий хайп к фальсификации выборов

Годами разговор об ИИ и манипуляциях шёл вокруг выборов. Этот фокус понятен. Но те же приёмы, которыми имитируют политическое движение, позволяют имитировать популярность продукта. В октябре Anthropic явно закрепила эту связь в своих правилах, и маркетологам стоит прочитать это как черту, проведённую и в их сторону.

Что произошло

8 октября Anthropic опубликовала обновление политики использования 2026 года, вступающее в силу 12 ноября. В нём появился раздел «Do Not Engage in Deceptive Campaigns or Artificial Activity» («Не участвуйте в обманных кампаниях и искусственной активности»), объединивший правила, прежде разбросанные по разделам о выборах, мошенничестве, приватности и дезинформации. Новый раздел «применяется к обманной деятельности любого рода (политической или коммерческой)». Он охватывает сокрытие того, кто стоит за сообщением, продвижение контента через фейковые аккаунты или посты и создание инструментов или инфраструктуры для операций влияния.

Обновление также снимает общий запрет на персонализированный таргетинг избирателей и кампаний. Таргетинг, основанный на обмане или злоупотреблении персональными данными избирателей, остаётся запрещённым в разделах об обманных кампаниях, слежке и приватности.

Неделю спустя в публикации Preparing for the 2026 US midterms Anthropic описала, что видит на практике. Среди прочего компания сообщает, что некоторые участники использовали Claude для производства фейковых новостей ради рекламной выручки и что она заблокировала причастные аккаунты. Также сообщается, что партнёры, тестировавшие её защиту, обнаружили: Claude надёжно отклонял отдельные вредные запросы, но мог пропускать кампании, разбитые на по отдельности безобидные задачи, — и компания добавила классификаторы для многошаговых злоупотреблений, таких как фейковые аккаунты в соцсетях и новостные сайты.

Почему это важно

Две детали заслуживают внимания всех, кто работает в маркетинге.

Слова «или коммерческой» ставят фейковые отзывы, подставные аккаунты, запуски, раздутые ботами, и искусственный «народный» хайп в одну категорию с политическими операциями влияния. Использовать для этого Claude нельзя, но направление движения всей отрасли очевидно: ИИ-провайдеры следят за скоординированной неаутентичной активностью и не делают различий между продвижением кандидата и продвижением продукта.

Вторая деталь — бизнес-модель, стоящая за частью злоупотреблений: фейковые новости ради рекламной выручки. Это проблема не только контента. Это проблема финансирования через рекламу. Когда бюджеты брендов через автоматическую программатик-закупку утекают на фейковые сайты, за обман платят рекламодатели — обычно не зная об этом.

Изменение в таргетинге тоже стоит отметить. Вредом считается не персонализация как таковая, а обман и злоупотребление персональными данными. Думаю, это верное разграничение.

Что говорят мои исследования

Значительную часть карьеры я создавал системы, профилирующие аудитории: обучение профилей пользователей по нескольким соцсетям, определение личности по данным разных сетей и рекомендации контента с учётом личности. Я знаю, насколько мощны эти методы, — именно поэтому на WSDM 2023 я выступил с докладом об ответственном использовании ИИ для рекламного таргетинга и оценки креативов.

Моя позиция, которую я изложил в Forbes как искупительный маркетинг, состоит в том, что прозрачность и эффективность не обязательно противопоставлять. Понимать аудиторию, чтобы лучше ей служить, — легитимно. Притворяться аудиторией с помощью фейковых аккаунтов и фейковых голосов — нет. Новая политика проводит черту примерно там же.

Есть и аспект измерений. Фейковая вовлечённость загрязняет те самые данные, на которых учится современный маркетинговый ИИ. Если хайп вокруг конкурента частично синтетический, любая модель, изучающая «что работает в категории», усвоит неверный урок. Очистка социальных данных от неаутентичных сигналов стала частью хорошей аналитики.

Что маркетологам делать сейчас

• Пропишите это в договорах с агентствами и инфлюенсерами. Никаких фейковых аккаунтов, купленной вовлечённости или нераскрытого спонсорского контента — в том числе созданного с помощью ИИ.
• Раскрывайте, кто говорит. Если ИИ пишет от имени вашего бренда или человека, убедитесь, что аккаунт и спонсорство очевидны.
• Проверяйте, куда уходят программатик-бюджеты. Запрашивайте отчётность на уровне сайтов и блокируйте размещения на сайтах без идентифицируемого издателя.
• Разделяйте персонализацию и обман в собственных политиках. Использовать собственные данные с согласия, чтобы адаптировать сообщение, — одно; скрывать, кто за ним стоит, — другое.
• Рассчитывайте на мониторинг. Если ваши процессы автоматизируют массовый постинг, документируйте их, чтобы легитимность использования было легко подтвердить.

Выборы сделали проблему заметной. Но больше всего денег — в коммерции. ИИ-провайдеры это заметили; маркетологам стоит опередить события.

Частые вопросы