На Dev Day OpenAI представила Decisions API — новый инструмент, который позволяет моделям компании быстро выбирать из предложенного набора вариантов действий вместо полного переосмысления ответа. Функционально это копирует Jev, выпущенный стартапом TypeSafe AI всего неделей раньше. Обе системы работают на одном принципе: вместо генерации текста модель вычисляет вероятности для уже готовых опций. Результат — выполнение в сотни раз быстрее и дешевле, чем использование полноценной LLM-модели.

Идея не нова в машинном обучении, но для LLM-экосистемы это поворот. Классические большие языковые модели медленны и дорогие именно потому, что генерируют ответ токен за токеном. Когда задача сводится к выбору из конечного списка (отнести изображение к категории, одобрить действие агента, выбрать следующий шаг), генерирующий подход становится избыточным. TypeSafe AI основал своё предложение на этом наблюдении, и рынок отреагировал: разработчики нашли Jev полезным для отсеивания лишних вычислений в сложных системах.

Но главное здесь не копирование, а то, что OpenAI признала реальную проблему, которую решает классификационный подход. За последние месяцы агенты OpenAI несколько раз вели себя неадекватно в открытой сети, и компания ввела мониторинг — запускает отдельную модель для проверки каждого действия. Это работает, но стоит колоссально дорого. Decisions API может радикально снизить расходы на такой контроль, не жертвуя безопасностью.

Практический пример показывает масштаб проблемы. Когда разработчик QueryStory использовал Jev для аудита действий агента в демо на хакатоне, стоимость мониторинга упала с $372 до $2.94 за один полный цикл. И это не маркетинговое завышение: разница в скорости и цене между frontier-моделью и специализированным классификатором действительно находится в таком диапазоне. На практике это означает, что проверять каждое действие агента становится экономически оправданным — раньше это было просто невозможно по затратам.

TypeSafe AI, возглавляемая бывшим инженером OpenAI Диого Алмейдой (разработчиком технологии reinforcement learning), спокойно прокомментировала событие шутками о начале «войны клонов». Но CEO компании справедливо заметил, что моат TypeSafe — в качестве синтетических данных, которыми они питают свои модели. Fast and cheap легко добиться, сложнее удержать качество предсказаний в реальном мире. OpenAI, конечно, имеет собственные мощности для генерации данных и обучения, но вопрос калибровки выходов остаётся критичным для всех игроков.

В России применение такого подхода актуально для компаний, работающих с автоматизацией процессов и системами обработки контента в масштабе. Например, в AI Studio можно использовать decision-like моделирование для выбора шаблонов и маршрутизации задач без полного прохода через генеративную модель. Для платёжных и контрактных систем, где каждый цикл должен быть быстрым и предсказуемым, подобная архитектура естественна — это близко к тому, как работают проверочные слои в Signum и смарт-контрактах на SIGNA. Страховщики, банки и логистические операторы выигрывают сразу: меньше задержек, дешевле мониторинг, проще соответствие регламентам.

Jevу сейчас скопирует не только OpenAI — другие стартапы уже выпускают свои версии. Но масштаб имеет значение: OpenAI может интегрировать Decisions API прямо в экосистему луны и агентов, сделав это стандартом для своих пользователей. Вопрос в том, кто сумеет удержать качество и не превратить это в очередной маркетинговый ход с забытой функцией через год.