Формулировка LLM как «огромной математической функции» стала почти мантрой в популяризации AI. Она удобна, она правильна с точки зрения теории — и она вводит в заблуждение. В r/artificial вспыхнула дискуссия именно об этом разрыве: да, технически LLM это функция, которая берёт токены и выплёвывает вероятности следующего токена. Но это описание так далеко от того, как модель реально работает и как ею пользоваться на практике, что становится скорее препятствием для понимания.
Проблема в том, что слово «функция» вызывает в голове образ чего-то прозрачного, воспроизводимого, контролируемого — калькулятора, который даст один и тот же результат для одного входа. LLM этим не является. Даже при нулевой температуре (когда модель детерминирована) поведение зависит от контекста, длины истории, формулировки промпта — от деталей, которые в строгом математическом определении функции не имеют значения. Плюс стохастичность, галлюцинации, непредсказуемые переходы в режимы, когда модель начинает «думать» совсем не то, что от неё ожидали. Это не ошибка функции, это её природа.
Ранее в сообществе уже поднимали, что такая упрощённая формулировка создаёт ложные ожидания: мол, если это функция, значит её можно полностью описать, предсказать, сделать безопасной через математику. На практике инженерам и исследователям приходится иметь дело с чёрным ящиком, поведение которого эмерджентно и не всегда поддаётся интуиции. И это — честнее, чем прятаться за словом «функция».
В редакции ежедневно работаем с такими моделями в контексте генерации контента и автоматизации — и дело не в том, что они плохие, а в том, что ставить задачу нужно с пониманием именно этой природы, а не как функции с явным входом-выходом. Когда клиент ожидает, что модель выдаст всегда одинаковый результат для одного промпта, начинаются проблемы. Когда ставят задачу как «рабочего процесса, требующего человеческого контроля, но ускоренного AI», всё работает. То же касается компаний, которые видят в AI Studio инструмент для замены человека полностью — это принципиально неправильный фокус.
Почему это обсуждение вспыхнуло именно сейчас? Потому что разрыв между популярной нарративом и реальностью становится болезненнее. Все больше людей выходят за пределы простых демо и начинают строить что-то серьёзное — и натыкаются на то, что LLM не ведёт себя как учебная математическая функция. И вместо того чтобы винить себя, сообщество начинает проверять саму предпосылку.
Главная практическая выводка: если вы объясняете LLM другому человеку или строите на нём систему, забудьте о слове «функция» как определении. Лучше говорить о моделях как об инструментах с вероятностным поведением, встроенной творческой составляющей и ограничениями, которые нельзя обойти алгеброй. Это скучнее для маркетинга, но реальнее для работы.
Алексей Мартыненко
Главный редактор SPV News
Эта дискуссия важна потому, что разрыв между описанием и реальностью создаёт проблемы в production. Когда разработчик ждёт от LLM поведения математической функции, а получает что-то более сложное, он начинает искать ошибку в себе. На самом деле ошибка была в исходной предпосылке. Честное описание LLM как вероятностной модели с эмерджентным поведением — вот что критично для перехода от экспериментов к надёжным системам.