Google и Amazon одновременно атакуют ключевое преимущество Nvidia на рынке ИИ: все основные приложения и модели по умолчанию пишут под её GPU, потому что исторически это был единственный нормальный вариант. В понедельник Amazon выпустила TorchNeuron (свою версию PyTorch для чипа Trainium), а на следующий день Google анонсировала TorchTPU (версию для своих Tensor Processing Units). Оба решения позволяют разработчикам перенести существующие приложения на альтернативные чипы практически без переписания кода.

PyTorch — это open-source фреймворк, который используют примерно в 85% всех ИИ-приложений. Его создала Meta (тогда Facebook) в 2016 году, когда большие языковые модели ещё не были в помине. В то время Nvidia уже доминировала на рынке ускорителей для ИИ, поэтому PyTorch глубоко интегрирован с её GPU. Два года назад Meta передала проект Linux Foundation, которая управляет критической open-source инфраструктурой.

Суть проблемы: разработчик пишет на PyTorch под Nvidia, а потом «прилипает» к экосистеме Nvidia не только потому, что железо хорошее, но потому что переделать код под другой чип — это боль. TorchTPU и TorchNeuron решают именно эту проблему, предоставляя готовую совместимость по конфигурации, без рефакторинга.

Google зашла глубже, чем Amazon. Она работала напрямую с Meta, Hugging Face, авторами vLLM и других популярных инструментов разработки, чтобы гарантировать натуральную совместимость TorchTPU с их экосистемой. Плюс запустила TPU agent suite — специальный инструмент для помощи разработчикам при миграции на Google Cloud, и обновила LiteRT (свой инструмент для ИИ на устройствах) под PyTorch. Amazon же пошла даже дальше идеологически: отправляет патчи в основной проект PyTorch, которые отвязывают фреймворк от специфики Nvidia, делая его более hardware-агностичным по умолчанию.

Важно понимать, что это не означает мгновенный массовый уход разработчиков от Nvidia. Переходить только потому, что теперь можно, никто не будет. Но экосистемный захват, который Nvidia строила годами, впервые серьёзно поколебался. Если TPU и Trainium покажут конкурентные показатели по производительности и цене, то «а почему мне переходить на Nvidia» перестанет быть риторическим вопросом.

Для российского бизнеса это открывает практический выход: если компания пишет ИИ-приложение и планирует использовать облако, теперь не нужно автоматически выбирать AWS или GCP под Nvidia просто потому, что это was de facto standard. Можно считать TPU от Google или Trainium от Amazon как реальный вариант с собственным софтвэром и экосистемой. Для стартапов, работающих с LLM-приложениями или компьютерным зрением, это означает больше гибкости в выборе облачного провайдера и, потенциально, лучший контроль над затратами.

Контекст шире: Nvidia всё ещё держит большинство рынка благодаря CUDA (закрытой экосистеме) и первоходству. Но облачные провайдеры, у которых есть свои чипы и мотивация не платить Nvidia комиссионные, начинают обороняться грамотно — не через запреты, а через совместимость на уровне софтвэра. Это долгая игра, но направление ясно.