Meta представила новый подход к борьбе с материалами детской сексуальной эксплуатации: вместо анализа только содержимого объявлений компания теперь смотрит, куда они направляют пользователей. За первую половину 2026 года Meta пресекла деятельность, связанную с 33,2 млн единиц CSAM на Facebook и Instagram. Это звучит как значительное число, но нужно понимать контекст: 97% контента был обнаружен автоматически, и для платформ с миллиардами дневных активных пользователей это означает, что проблема остаётся масштабной, несмотря на инвестиции в борьбу с ней.
Ключевое нововведение — система обнаружения так называемого "signposting" через LLM. Это когда объявление кажется невинным (например, продажа одежды или услуг), но на самом деле — шлюз на сторонний сайт с запрещённым контентом. Плохие актёры постоянно эволюционируют в своих методах, переходя на более продвинутые техники скрытия намерений. Meta теперь может блокировать целевые веб-сайты и учетные записи, стоящие за такими объявлениями, не дожидаясь, пока их поймают на самой платформе.
Параллельно компания запустила "красный коман" AI-агентов, которые тестируют собственные системы защиты изнутри — ищут уязвимости и пытаются предсказать, как злоумышленники будут их обходить. Это разумный подход: если твоя система не находит уязвимость сама, велика вероятность, что её найдут другие. Добавлены также улучшения для выявления повторных нарушителей, создающих новые учётные записи после блокировок.
Однако тут стоит быть честным: всё это звучит хорошо на бумаге, но масштаб проблемы говорит, что никакие инструменты пока не решили её полностью. Даже 97% автоматического обнаружения означает, что 3% контента попадают в ручную модерацию или мимо систем. На платформах с сотнями миллионов постов в день это может быть тысячи единиц в день. Meta также продолжает получать критику от законодателей и в судах — в августе компания согласилась выплатить до $18 млрд, чтобы урегулировать судебный процесс о безопасности детей, поданный 29 штатами США.
В контексте индустрии такие инструменты становятся почти необходимостью для крупных платформ. Регуляторы и общественность больше не принимают на веру общие заявления о том, что компания "делает всё возможное". Нужны доказуемые технические системы. Тем не менее, между объявлением инструмента и его реальной эффективностью часто большой разрыв: насколько хорошо LLM выявляет хитрые схемы скрытия? Насколько много ложных срабатываний будут блокировать легитимные объявления? На эти вопросы мало прозрачности.
Для российского бизнеса, работающего с медиа и контентом, вопрос модерации на платформах становится всё острее. Если компания использует Meta для рекламы, нужно понимать, что системы анализа ссылок и целевых страниц становятся жёстче. Это означает, что ссылки должны вести на действительно релевантный контент, а не на промежуточные шлюзы или микросайты. Также возрастает внимание к аккаунтам, которые часто меняют стратегию или используют обходные методы. Для добросовестных рекламодателей это не проблема, но для тех, кто ходит по краю, становится сложнее.
На фоне давления со стороны регуляторов и судов Meta попытается продемонстрировать, что инвестирует в безопасность серьёзно. Это хорошо для отрасли в целом: повышение планки технической защиты заставляет всех конкурентов тоже подтягиваться. Вопрос в том, будет ли эта защита эффективной на практике или останется красивой презентацией для судов и СМИ.
Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена на территории РФ; это относится и к принадлежащим ей социальным сетям Instagram и Facebook.