Когда в сообществе LocalLLaMA впервые появился пост про использование iPhone как GPU для MacBook, многие восприняли это как curiosity-driven хак. Месяц спустя та же идея снова набирает обороты, но уже с другим тоном обсуждений. Люди перестали поражаться самому факту и начали спрашивать практические вопросы: на скольких моделях это работает стабильно, какова реальная деградация производительности из-за сетевой задержки, стоит ли оно вообще затраченного батарейного ресурса iPhone?

Цифры на первый взгляд впечатляют — 29-44% ускорение prefill на Qwen 27B звучит значительно. Но в комментариях быстро нашлись люди, которые указали на узкие места. Сеть между устройствами работает на WiFi или USB, задержка мала, но в контексте миллисекунд на языковой модели это может быть критично. Кроме того, iPhone будет греться, батарея сядет быстро, и для постоянного использования эта схема не годится.

Суть спора сместилась на более фундаментальный вопрос: есть ли вообще сценарий, где это полезнее, чем просто купить нормальный видеокарту за те же деньги, что потратишь на iPhone? Или это всё ещё остаётся technical proof-of-concept, интересным именно тем, что можно, но не тем, что нужно?

В сообществе LocalLLaMA обычно преобладает экспериментальный настрой, но даже там постепенно становится понятно: чтобы эта идея перестала быть гаджетом, нужны либо более стабильные способы распределённого вычисления, либо более весомые практические преимущества, чем демонстрация технической возможности. Пока что эксперимент работает, но остаётся экспериментом.

Для российских разработчиков, работающих с локальными LLM (например, с помощью AI Studio для автоматизации обработки текстов), это может быть любопытным для лабораторных экспериментов, но как production-решение для ускорения инфере на MacBook имеет слишком много условностей. Более прямолинейный подход — либо оптимизация моделей под имеющееся железо, либо инвестиция в нормальный GPU, если бюджет позволяет.

Отдельное замечание: почему эта идея вообще периодически возникает? Потому что локальное AI сообщество привыкло работать с ограничениями железа и ищет творческие решения. Но сообщество достаточно опытно, чтобы отличить крутой хак от практически полезного инструмента. На этот раз различие стало очевидным быстрее, чем год назад.