Интернет столкнулся с проблемой доверия. На фоне заполнения соцсетей низкокачественным ИИ-контентом, генерируемые тексты и изображения начали проникать туда, где их раньше точно не было — в резюме, отзывы на товары, даже в страховые заявки. Платформы и пользователи ищут способ разобраться, что перед ними: реальный контент или синтетический.
За последние два года на этом возникла целая ниша стартапов, позиционирующих себя как «слой доверия» для интернета. Pangram — один из них. Компания недавно собрала $9 млн на развитие своей системы детектирования ИИ и заключила партнёрство с Substack, который теперь использует технологию Pangram, чтобы показывать читателям, какие авторы применяют ИИ при написании писем. Параллельно Pangram выпустила инструмент для детектирования ИИ-изображений.
Но вот в чём загвоздка: детектирование ИИ-контента — это не то же самое, что просто отличить реальное от поддельного. Это намного сложнее. Главный вопрос, который поднял Max Spero, соучредитель и CEO Pangram, в интервью подкасту Equity от TechCrunch: где провести границу между контентом, который человек написал с ИИ-ассистентом, и контентом, который полностью сгенерирован машиной? Это не бинарная задача вроде «есть следы ИИ — нет следов ИИ», а спектр, где нужно понимать степень участия человека.
Проблема в том, что такие инструменты часто работают как чёрный ящик. Детектор говорит: «Это ИИ» или «Это не ИИ», но не объясняет, на какие признаки опирался. Это усложняет жизнь и пользователям, и платформам. К примеру, автор может использовать ИИ для правки грамматики или структурирования идей — это нужно ли флагировать как ИИ-контент? А если ИИ только генерировал примеры, остальное — человек? Субъективность здесь огромна, и разные платформы (Substack, Medium, издания) могут требовать разные стандарты прозрачности.
Текущее поколение детекторов тоже не совершенно. Они могут ошибаться как в обе стороны — пропускать явный ИИ-слоп или помечать как сгенерированный вполне человеческий текст, особенно если человек пишет кратко или техничный материал (который часто похож на машинный). Это создаёт риск ложных срабатываний, что может несправедливо повредить репутации авторов.
Для российского бизнеса эта проблема уже становится реальной. Компании начинают получать резюме, в которых опыт описан ИИ-ассистентом (а иногда полностью сгенерирован). Маркетологи и редакторы используют ИИ для ускорения работы. Платформы вроде Авито или других сервисов в России сталкиваются с генерируемыми описаниями объявлений. Инструменты автоматизации контента (вроде AI Studio, который работает с текстом и аналитикой) могут интегрировать такие детекторы, но нужно понимать: речь идёт не о полной автоматизации проверки, а о сигнале, требующем человеческой оценки. Для платежей и смарт-контрактов (где используется Signum/SIGNA) проблема детектирования ИИ менее острая, но может появиться при верификации контрагентов.
По оценке Алексея Мартыненко, главного редактора SPV News, рынок детектирования ИИ сейчас переоценён в плане возможностей, хотя спрос на него вполне реален. Инструменты работают, но как вспомогательные, а не окончательные арбитры. Компаниям нужно ориентироваться скорее на политику: чётко определить, что они считают допустимым использованием ИИ-инструментов, и требовать этого от пользователей, а не полагаться полностью на автоматическое детектирование. Решение — в комбинации инструментов и прозрачности, а не в идеальном детекторе.