Генеративные инструменты сделали дешёвым штамповку бесконечных вариаций одного и того же низкокачественного видео, статьи или скама, каждая ровно настолько иная, чтобы проскользнуть мимо старых фильтров. Команда исследователей Google опубликовала статью о том, как компания борется с этим в масштабе. Читайте её такой, какая она есть: описание системы для онлайн-видеоплатформ. Ничто в статье не говорит, что Поиск Google использует эту систему или что-то подобное. Если вы ведёте сайт, для вас действует другой документ Google, о нём в конце.

Статья «Scalable Detection of Adversarial Synthetic Slop and Coordinated Media Abuse» (Google Research, 2026) описывает развёрнутую в продакшене систему S-CTS, Scalable Cluster Termination System. Она оформлена под «онлайн-видеоплатформы», и терминология («каналы») намекает на сервис типа YouTube, хотя сама статья остаётся обобщённой.

Главный сдвиг: от постов к сетям

Традиционная модерация судит контент по одному посту за раз. Именно эту слабость эксплуатирует скоординированный спам: генеративные модели выдают неограниченное число уникальных вариаций функционально одинакового мусора, поэтому два куска никогда не совпадают, и хеш-фильтры пропускают их все.

S-CTS меняет вопрос. Вместо «это видео синтетическое?» она спрашивает «ведут ли себя эти аккаунты как один оператор, запустивший генеративный скрипт?». Она ищет кластеры скоординированных аккаунтов («Generation Clusters» в статье, группы, которые, вероятно, используют один и тот же генеративный API или скрипт) с помощью двух компонентов:

  • Coordinated Bot-Net Detector (ΨA): внутренние сигналы Google, такие как паттерны использования API, временные ряды загрузок и родство аккаунтов, та же линия Sybil-детекции, что и против сетей фейковых аккаунтов.
  • Synthetic Pattern Classifier (ΨC): двухэтапный «Synthetic Content Rater», который сводит кадры видео, аудио и транскрипты в компактное текстовое резюме (отмечая, например, шаблонные нарративы и нечеловеческий темп загрузок), а затем даёт LLM рассуждать над этим резюме, а не над сырыми пикселями.

Эта LLM специализирована через LoRA (Low-Rank Adaptation) и Automatic Prompt Optimization, в статье это называют «ИИ ловит ИИ». Выигрыш в гибкости: LoRA-адаптерам нужно «на порядки меньше разметки», чем переобучению полной модели, поэтому система догоняет новый синтетический тренд за дни, а не за кварталы.

Что сообщает статья

За шестимесячный базовый период Google сообщает о выигрыше в эффективности, а не о счётчиках уничтоженных каналов. Подсчётов уничтоженных каналов, которые встречаются в пересказах, в статье нет, поэтому мы их опускаем:

  • −50% ко времени обработки ревью синтетического контента по сравнению с людьми;
  • −32% ко времени валидации кластеров;
  • «крайне низкий уровень ложноположительных» (сказано качественно, без числа);
  • для автоматического энфорсмента точность держат высокой (92-95%), тогда как автоматические одобрения идут на полноте до 96%, чтобы уводить безопасный контент от ручного ревью.

Креатив против слопа

Проектное решение важнее любой метрики. Google заявляет «мандат точности над полнотой» (precision-over-recall), чтобы не цензурировать легитимных авторов, использующих ИИ-инструменты, а требование «кластера» это сознательная страховка: система целится в скоординированные сети синтетического спама, а не в одного человека, экспериментирующего с генеративными инструментами.

Ограничения, которые называют авторы

Детекция новейших генеративных моделей (они называют Sora и Kling) ограничена «дефицитом больших размеченных состязательных датасетов»: нельзя надёжно обучить детектор на модели, чьи выходы вы едва каталогизировали. Авторы также отмечают, что криптографический provenance, C2PA и watermarking Google DeepMind SynthID это настоящий «золотой стандарт», но пока он не станет повсеместным и защищённым от подделки (злоумышленники берут модели без него или срезают метаданные), подобные системы детекции остаются временным решением.

Что относится к сайту

Статья про видеоплатформы и не говорит, что Поиск использует ту же систему. Для сайтов официальная позиция Google это его спам-политика о злоупотреблении масштабируемым контентом: создание множества страниц преимущественно ради манипуляции ранжированием, как бы их ни создавали. Именно этот документ стоит прочитать, и он не зависит от данной статьи.

Два прочтения от нас, помеченные как таковые, а не выводы статьи:

  • Акцент статьи на паттернах среди аккаунтов, а не на отдельных материалах, напоминает, что шаблонный, почти дублированный контент, выходящий неестественным темпом, выглядит как след. Статья показывает это для видеоаккаунтов. Мы переносим это на сайты, чего она не утверждает.
  • Provenance может стать всё более заметным сигналом доверия для медиа, созданных с помощью ИИ. Авторы называют его золотым стандартом для детекции, а это не утверждение о том, что потребуют от издателей.

Целью ни в одном из документов не является работа с ИИ. Оригинальная суть, собственный опыт, данные и взгляд отличают полезную страницу от наполнителя, как и утверждает позиция Google в материале хороший SEO это хороший GEO.

Источники