Интернет столкнулся с кризисом доверия. Если месяц назад проблема казалась в основном эстетической — социальные сети заполняются генерируемым ИИ-мусором, — то теперь ИИ-текст и картинки проникают туда, где ошибка стоит дорого: в трудовые резюме, отзывы о продуктах, страховые заявления. Платформам и пользователям приходится срочно разбираться, что перед ними — настоящее или синтетика.
На эту потребность среагировало несколько стартапов, позиционирующих себя как «слой доверия» для интернета. Самый видимый из них — Pangram, которому недавно удалось привлечь $9 млн инвестиций на развитие системы детекции ИИ. Чуть раньше компания объявила о партнёрстве с Substack: платформа теперь показывает читателям информацию о том, использовал ли автор ИИ при написании рассылки. Последний шаг Pangram — выпуск инструмента для детекции ИИ-изображений.
На первый взгляд, логика ясна: если на рынке так много машинного контента, нужны инструменты его обнаруживать. Но здесь начинаются проблемы. Детекция ИИ — задача крайне скользкая. Никакой алгоритм не даст гарантию близкой к 100%, а ложные срабатывания могут повредить репутации реальных авторов. Более того, при росте качества ИИ-моделей (особенно при fine-tuning под конкретный стиль) детекция становится игрой в кошки-мышки, где обе стороны постоянно совершенствуют методы.
Идея «мёртвого интернета», упомянутая CEO Pangram, — это не сценарий из научной фантастики, а уже складывающаяся реальность для определённых ниш. Когда поисковых результатов засоряет автоматически сгенерированный контент, когда отзывы пишут боты, а наборы резюме содержат фальшивые достижения, пользователи и компании теряют возможность воспринимать информацию как надёжную. Это ускоряет переход на закрытые каналы коммуникации — личные рекомендации, приватные сообщества, источники с авторитетом (чтение статей в журналах, общение с проверенными экспертами).
Решение Pangram и конкурентов — это паллиатив, а не лечение. Детекция срабатывает только постфактум, когда контент уже опубликован. Настоящий ответ должен быть многоуровневым: цифровая подпись авторского контента, улучшение алгоритмов платформ по фильтрации синтетики, стандартизация маркировки ИИ-помощи (отличие между «я писал с корректором» и «я нажимал кнопку, ИИ писал»), плюс изменение стимулов — чтобы массовое производство синтетического контента попросту было невыгодно. Инструменты вроде Pangram могут стать частью этой системы, но опасно рассматривать их как универсальное решение.
Для российского бизнеса проблема становится острой быстрее, чем казалось. Рекрутеры уже сталкиваются с ИИ-резюме, компании видят, как конкуренты заполняют интернет фальшивыми отзывами, маркетологи борются с падением качества данных для обучения аудиторий. Решения здесь возможны: например, при найме важно вернуться к телефонным интервью и живому общению; для защиты репутации помогает регулярный мониторинг упоминаний и реагирование на явные подделки; для маркетинга — переход на собственные каналы и прямую коммуникацию с аудиторией вместо полагания на органический трафик. Инструменты вроде AI Studio для автоматизации контент-работ или Signum для верификации платежей могут помочь структурировать процессы и убедиться, что критичные данные остаются проверяемы, но основа — это культура двойной проверки и прямого контакта.
Главное понимать: детектор ИИ — это не решение проблемы, а её симптом. Настоящий вопрос не в том, сможем ли мы ловить синтетику, а в том, как мы переорганизуем доверие на интернете, когда производство лжи становится дешёвым и массовым. Pangram и подобные компании могут помочь в переходный период, но без фундаментальных перемен в архитектуре контента и системах верификации интернет будет деградировать в направлении того мёртвого состояния, о котором говорят основатели стартапов.