Musubi выпустила PolicyLM-1.7B — специализированную модель для контент-модерации, которая обрабатывает сообщения за время менее 50 миллисекунд. Главное отличие подхода в том, что политики модерации можно писать на обычном английском языке и менять их на лету, без переобучения модели. Это значительно упрощает жизнь product-командам платформ, которые вынуждены постоянно подстраивать правила под новые тренды и типы нарушений.
Решение Musubi использует архитектуру decision models — относительно новый класс AI-моделей, которые вместо генерации текста выдают вероятности конкретных исходов или бинарное решение. За счёт ограничения выходных данных предопределённым набором вариантов decision models работают быстрее и дешевле, чем полнофункциональные языковые модели, но сохраняют гибкость трансформер-архитектуры. По скорости и стоимости PolicyLM-1.7B сравнима с классическими AI-классификаторами, которые сегодня используют в модерации, но намного гибче в применении.
Тренд decision models нарастает: в сентябре TypeSafe AI выпустила Jev, вслед за ней появились конкурирующие модели от OpenAI и Amazon. Decision models привлекли особое внимание как инструмент для управления поведением AI-агентов — логично распространить эту же логику на контроль человеческого поведения в сетях. Co-founder Musubi Филип Янкович отмечает, что интерес к decision models для модерации у компании вызрел раньше, ещё на базе проекта GLiNER (2024), где использовались схожие техники для извлечения сущностей.
В практическом плане модель решает реальную боль: объём контента растёт экспоненциально, и платформам критически нужна масштабируемая система для его классификации. Наивный подход — обучить отдельный классификатор под каждую политику или категорию контента — требует времени и данных. PolicyLM-1.7B позволяет одной модели гибко применять любую политику, которую напишут product-менеджеры, — и изменения вступают в силу немедленно.
Минус в том, что даже лёгкие decision models требуют инфраструктуры для развёртывания и мониторинга. На маленьких платформах или при нечастых проверках контента полноценный ML может быть избыточен. Musubi выпустила модель с открытыми весами — это даёт сообществу возможность адаптировать её под специфику, но повышает риск, что её будут использовать для обхода модерации (например, сгенерируют антиполитику).
В России решение такого типа может быть полезно для платформ и месседжеров, которые растут: быстрая, гибкая модерация по пользовательским правилам экономит ресурсы в то время, как контент и аудитория растут. AI Studio в тот же контекст встраивает автоматизацию workflow-ов — модерация контента часто идёт параллельно с его обработкой и классификацией. Для проектов, которые работают в России или соблюдают российское законодательство, важно, что политики можно быстро адаптировать под локальные требования без ретрейна.
Musubi позиционирует PolicyLM-1.7B как доступную альтернативу проприетарным решениям крупных платформ — простая в развёртывании, дешевле в обслуживании, и компании остаются в контроле над своей логикой модерации. Это значимо в контексте того, что регулирование контента остаётся горячей темой, и платформы хотят показать, что их правила применяются прозрачно и консистентно. Decision models здесь могут сыграть роль: если политика написана понятным текстом, её проще объяснить и пользователям, и регуляторам.