В сообществе r/ChatGPT взорвалась дискуссия о требованиях к оперативной памяти для работы с современными ИИ-моделями. Под видом политического лозунга («RAM needs to be collectivized») скрывается реальная боль: локальные версии больших моделей, от LLaMA до Mistral, требуют 32, 64, а то и 128 гигабайт оперативки. Для домашних машин это попросту недоступно.
Суть спора проста: индустрия решила проблему масштабирования моделей за счёт пользователя. Облачные сервисы (OpenAI, Google, Anthropic) берут деньги за API, но хотя бы скрывают железо. Локальное сообщество энтузиастов остаётся в дураках — либо покупай серверное оборудование, либо работай с урезанными версиями. Между тем, инженеры ИИ-компаний не спешат оптимизировать модели под домашние машины, потому что растущие требования к ресурсам выглядят как доказательство мощи модели.
Это возвращение старой проблемы: в 2010-х годах то же самое было с GPU. Геймеры и любители ИИ конкурировали за видеокарты, цены взлетели до небес, потом постепенно нормализовались. Сейчас ситуация похожа, но с оперативкой. Рынок попытается выровняться: либо появятся тонкие клиенты для работы с облачными моделями (уже есть), либо сообщество разработает эффективные компрессии моделей (квантизация, pruning — это уже работает, но требует времени).
Для российского бизнеса это означает конкретно: если вы хотите запустить свой собственный ИИ-сервис на базе открытой модели, локальное железо в обозримый период остаётся дорогим удовольствием. Облачные решения (облачное железо на AWS, Yandex Cloud или подобное) остаются экономичнее, даже если платишь за каждый вызов. Автоматизация рутинных задач через API (контент, аналитика, классификация) дешевле, чем содержать собственный сервер с достаточным объёмом памяти.
На фоне этого обсуждение в r/ChatGPT показывает, что локальное ИИ-сообщество нуждается не в политике, а в инженерии: нужны модели, которые работают на 16-32 гигабайтах без потери качества, и здесь ставка должна быть на архитектурные улучшения, а не на скорую экспоненциальную рост параметров.
