Диогу Алмейда помогал строить ChatGPT и изобретал RLHF — технику обучения, которая фактически запустила нынешнюю эру больших языковых моделей. Но он был разочарован: модели хорошо работали с текстом, но оказались малополезны для настоящей автоматизации. Два года назад он ушёл из OpenAI и запустил TypeSafe AI, чтобы решить эту проблему иначе.

На этой неделе компания выпустила Jev — трансформер-базированную модель, которая радикально отличается от привычных LLM. Вместо генерации текста она выдаёт вероятности и то, что разработчики называют «калиброванными решениями». Это кажется мелочью, но влияет на всё: модель не может галлюцинировать, работает в разы быстрее, практически не требует вычислительных ресурсов, а выходные токены вообще бесплатны. Входные токены считаются миллиардами, а не миллионами.

Спрос оказался таким высоким, что TypeSafe на какой-то момент не справлялась обслуживать пользователей через API. Разработчики видят в Jev дешёвый и надёжный способ встроить логику в свой код. Инженер из Vercel (компания, делающая инфраструктуру для агентов) заменил ChatGPT на Jev для проверки команд на безопасность и получил результаты в 5-18 раз быстрее с лучшей точностью. CTO Bryo AI тестировал Jev против Gemini для классификации бизнес-писем: Gemini был немного точнее, но в 10-20 раз дороже. Главное преимущество Jev для него — честные вероятности, которые позволяют надёжно автоматизировать рабочие процессы.

Jev может не только заменять LLM в определённых задачах, но и дополнять их — выступать «умным наблюдателем» над поведением других моделей. Использование одного агента для мониторинга другого быстро становится дорого; Jev даёт способ это делать дёшево. CTO Earendil, которая разрабатывает open-source фреймворк Pi, объясняет логику: пользователь смотрит на вероятность, и если модель уверена на 95%, можно действовать, если же на 50% — это подбрасывание монетки, и надо пропустить результат. Ещё один случай использования — маршрутизация между моделями: быстро предсказать, какая модель нужна для конкретной задачи, можно дешево с помощью Jev.

Модель названа в честь экономиста XIX века Уильяма Джевонса и его парадокса: когда стоимость ресурса падает, он используется всё шире. Алмейда верит, что падающая стоимость интеллекта приведёт к его повсеместному распространению — не в виде мегаприложений, как сейчас, а как распределённого, эмерджентного феномена, похожего на ранний интернет.

О внутреннем устройстве Jev говорить не принято, но сообщество подозревает, что модель построена поверх какого-то open-weight LLM. TypeSafe называет её «System One моделью» — ориентированной на интуицию, а не на рассуждение, и специализированной для конкретной задачи. Алмейда говорит, что обучение идёт исключительно на синтетических данных с использованием техники, которую он назвал «reinforcement learning from calibrated decisions». Это была лучшая инвестиция для компании: вторая половина TypeSafe — это лаборатория, которая владеет методами создания статистически корректных синтетических данных.

Пока Jev стоит одна, но наблюдатели ожидают, что конкуренты появятся быстро. Как заметил CTO Earendil, индустрия могла заметить эту нишу раньше, но LLM были настолько дешевы и субсидируемы, что не было необходимости быть креативным.

Для российского бизнеса это открывает практические возможности: классификация документов, маршрутизация запросов в call-центрах, проверка соответствия регламентам, модерация контента — все это традиционно требует либо дорогих LLM, либо ручного труда. Низкая стоимость Jev делает такие системы экономически оправданными даже для средних компаний. В контексте локального регулирования и потребности в контроле над данными модель, не требующая закупок вычислительных мощностей для работы с гигантскими параметрами, может быть удобнее, чем облачные LLM с потенциальными ограничениями на трансграничный обмен информацией.