Для сервера, к которому одновременно обращаются несколько пользователей или агентов, из трёх платформ лучше всего подходит NVIDIA DGX Spark: в тестах vLLM при 64 параллельных запросах он обгонял мини-ПК на AMD Strix Halo в 2–4 раза, а на длинных промптах — в 8,8 раза. Для одного пользователя скорость генерации у Spark и Strix Halo близка, при этом Strix Halo заметно дешевле. По опубликованным замерам Mac Studio на M5 Max генерирует текст в одном потоке быстрее обоих благодаря пропускной способности памяти 614 ГБ/с, а M5 Ultra с 1,2 ТБ/с вмещает модели до 512 ГБ. В 2026 году на выбор сильно влияют цены: из-за дефицита памяти DGX Spark 128 ГБ подорожал с $3999 при запуске до примерно $6950 в октябре.
Сравнение подготовила AI студия Владимира Ломтева 17 ноября 2026 года. Характеристики и цены взяты из официальных страниц производителей и профильных изданий; у каждой цифры указаны источник и дата. Сами мы эти машины не тестировали. Замеры скорости принадлежат указанным авторам, сделаны в разное время, на разных движках и квантах, поэтому сравнивайте порядок величин, а не единицы токенов в секунду. Цены указаны в долларах США; рублёвые цены мы не отслеживали.
Содержание
- Короткий ответ: кому что подходит
- Почему всё решают память и её пропускная способность
- Характеристики трёх платформ
- Цены в 2026 году: почему всё подорожало
- Один пользователь: скорость в одном потоке
- Несколько пользователей и агенты: батчевый режим
- Объём памяти: какие модели помещаются
- Программы: CUDA, ROCm или MLX
- Как выбрать: порядок действий
- Частые вопросы
Короткий ответ: кому что подходит
| Сценарий | Что выбрать | Почему |
|---|---|---|
| Сервер для отдела, агенты, много параллельных запросов | DGX Spark | CUDA, vLLM и SGLang, сильный prefill и батчинг, сеть ConnectX-7 200 Гбит/с |
| Один пользователь, ограниченный бюджет, Linux или Windows | Мини-ПК на Ryzen AI Max+ 395 (Strix Halo) | 128 ГБ единой памяти, генерация на уровне Spark в одном потоке, цена ниже |
| Один пользователь, максимальная скорость генерации, тишина | Mac Studio M5 Max | 614 ГБ/с, MLX, до 128 ГБ |
| Модели больше 128 ГБ на одной машине | Mac Studio M5 Ultra | До 512 ГБ и 1,2 ТБ/с |
| Модели до 192 ГБ без Mac | Ryzen AI Max+ PRO 495 | До 192 ГБ LPDDR5X, но пропускная способность осталась около 273 ГБ/с |
Если сценарий не ясен, сначала опишите нагрузку: сколько людей и агентов будут обращаться к модели одновременно, какой длины промпты и какое время ответа допустимо. Метод описан в статье о нагрузочном тесте локальной LLM.
Почему всё решают память и её пропускная способность
У всех трёх платформ единая память: процессор и графическое ядро работают с одним пулом. Поэтому они вмещают модели, которые не поместятся в игровую видеокарту на 24–32 ГБ. Но объём определяет только то, какая модель запустится. Скорость зависит от двух других параметров.
Генерация токенов (decode) упирается в пропускную способность памяти: на каждый токен нужно прочитать все активные веса модели. Верхнюю границу скорости можно оценить делением пропускной способности на объём активных весов. Для плотной модели на 70 млрд параметров в 4 битах (около 40 ГБ весов) получается:
- DGX Spark: 273 ГБ/с ÷ 40 ГБ ≈ 6,8 токена/с;
- Strix Halo (Ryzen AI Max+ 395): 256 ГБ/с ÷ 40 ГБ ≈ 6,4 токена/с;
- M5 Max: 614 ГБ/с ÷ 40 ГБ ≈ 15 токенов/с;
- M5 Ultra: 1200 ГБ/с ÷ 40 ГБ = 30 токенов/с.
Это расчётный потолок без учёта KV-кэша и накладных расходов, реальная скорость ниже. Для проверки: LMSYS измерила на DGX Spark Llama 3.1 70B в FP8 (около 70 ГБ весов) и получила 2,7 токена/с при потолке 273 ÷ 70 ≈ 3,9.
Отсюда практический вывод: на этих машинах выгодно запускать MoE-модели, у которых на каждый токен работает лишь часть параметров. gpt-oss-120b, Qwen3.8 Flash-Next или GLM-5.3-Flash генерируют в разы быстрее плотной модели того же объёма.
Чтение промпта (prefill) зависит от вычислительной мощности. Здесь у DGX Spark с графическим ядром Blackwell преимущество, и оно растёт на длинных промптах и при батчинге. Для агентов и RAG, где в модель уходят тысячи токенов контекста, prefill часто важнее скорости генерации.
Характеристики трёх платформ
| Параметр | DGX Spark | Strix Halo (Ryzen AI Max+ 395) | Mac Studio M5 Max | Mac Studio M5 Ultra |
|---|---|---|---|---|
| Память | 128 ГБ LPDDR5X; у партнёров есть версия на 64 ГБ | До 128 ГБ LPDDR5X-8000 | До 128 ГБ | От 96 до 512 ГБ |
| Пропускная способность | 273 ГБ/с | 256 ГБ/с | До 614 ГБ/с | 1,2 ТБ/с |
| Основной стек | CUDA: vLLM, SGLang, llama.cpp, Ollama | ROCm и Vulkan: llama.cpp, vLLM, LM Studio | MLX, Ollama, LM Studio, llama.cpp (Metal) | То же |
| Связь между машинами | ConnectX-7, 200 Гбит/с | 10GbE в AMD Ryzen AI Halo | Thunderbolt 5 с RDMA | Thunderbolt 5 с RDMA |
| Операционная система | Linux | Linux или Windows | macOS | macOS |
Источники: характеристики DGX Spark и версии на 64 ГБ — ServeTheHome и LMSYS; Strix Halo на примере AMD Ryzen AI Halo — StorageReview; Mac Studio — пресс-релиз Apple от 25 августа 2026 года.
В мае 2026 года AMD представила преемника — Ryzen AI Max PRO 400 (Gorgon Halo). Старший Ryzen AI Max+ PRO 495 поддерживает до 192 ГБ LPDDR5X-8533, из них до 160 ГБ можно отдать графическому ядру. Пропускная способность выросла лишь примерно на 7%, до 273 ГБ/с (ServeTheHome). То есть новый чип вмещает модели крупнее, но генерирует их не быстрее.
Цены в 2026 году: почему всё подорожало
Все три платформы используют напаянную память LPDDR5X, а её цена в 2026 году росла быстрее всего. По оценке TrendForce, которую приводит The Register, контрактные цены на LPDDR4X и LPDDR5X в первом квартале 2026 года выросли примерно на 90% к предыдущему кварталу — это самый резкий рост за всю историю наблюдений. Главная причина — спрос на память для инференса в дата-центрах.
Как это отразилось на ценах (США):
| Устройство | Было | Стало | Источник |
|---|---|---|---|
| DGX Spark Founders Edition 128 ГБ | $3999 (запуск в октябре 2025 года) | $4699 с 23 февраля 2026 года | Форум NVIDIA: «из-за ограничений поставок памяти» |
| DGX Spark 128 ГБ | $4699 | Около $6950 в октябре 2026 года | ServeTheHome, 3 октября 2026 года |
| DGX Spark 64 ГБ (только партнёры) | — | $4999, продажи с 23 октября 2026 года | Там же |
| Framework Desktop, Ryzen AI Max+ 395, 128 ГБ | $1999 | $2459 | Notebookcheck, 13 января 2026 года |
| AMD Ryzen AI Halo, 128 ГБ | — | $3999 с SSD 2 ТБ | StorageReview, 6 июля 2026 года |
| Mac Studio M5 Max | $2499 у предыдущего поколения | От $2499, без изменений | Macworld, август 2026 года |
| Mac Studio M5 Ultra | На $200 дешевле у предыдущего поколения | От $5499 | Там же и Apple |
По этим данным DGX Spark 128 ГБ подорожал примерно на 74% с момента запуска (расчёт: 6950 ÷ 3999), а Framework Desktop на 128 ГБ — на 23% (2459 ÷ 1999). Apple цену базовой конфигурации M5 Max не изменила, но базовая цена сильно отличается от цены конфигурации со 128 ГБ: в обзоре ComputingForGeeks Mac Studio M5 Max на 40 графических ядер и 128 ГБ указан за $5099 (цены начала октября 2026 года), а мини-ПК на Strix Halo со 128 ГБ на Amazon — около $3600 (19 октября 2026 года).
В России эту технику обычно покупают через параллельный импорт, поэтому итоговая цена и условия гарантии зависят от поставщика. Сравнивайте предложения с одинаковым объёмом памяти: разница между версиями на 64 и 128 ГБ в 2026 году стала намного больше, чем раньше.
Один пользователь: скорость в одном потоке
Ниже — опубликованные замеры на модели gpt-oss-120b (MoE, около 117 млрд параметров). Кванты, движки и даты отличаются, поэтому эти цифры показывают порядок величин, но не подходят для точного рейтинга.
| Машина | Движок и источник | Чтение промпта, токенов/с | Генерация, токенов/с |
|---|---|---|---|
| DGX Spark | llama.cpp, сборка 6922, промпт 2048 токенов; при контексте 32K | 1956; 1027 | 60,6; 40,6 |
| Strix Halo (Framework Desktop 128 ГБ) | llama.cpp Vulkan, драйвер AMDVLK, сборка 6118, промпт 512 токенов | 449 | 33,1 |
| MacBook Pro M5 Max 128 ГБ (тот же чип, что в Mac Studio) | mlx_lm, контекст 4K; контекст 32K | 1325; 2537 | 87,9; 64,5 |
Источники: DGX Spark — замер пользователя eugr от 2 ноября 2025 года в обсуждении llama.cpp №16578; Strix Halo — замер пользователя lhl от 8 августа 2025 года на форуме Framework; M5 Max — замеры пользователя r/LocalLLaMA, опубликованные Hardware Corner 11 марта 2026 года.
Что важно учесть:
- Замер Strix Halo сделан в августе 2025 года; с тех пор llama.cpp ускорился, и на свежих сборках результат может быть выше. В том же замере драйвер RADV читал промпт в два раза медленнее AMDVLK (210 против 449 токенов/с) при той же скорости генерации, поэтому выбор драйвера Vulkan для Strix Halo имеет значение.
- Скорость генерации Spark и Strix Halo в одном потоке близка, а Mac на M5 Max заметно быстрее. Это соответствует их пропускной способности памяти.
- Mac Studio M5 Ultra в обзоре MacStories (256 ГБ, oMLX, сентябрь 2026 года) на модели Qwen3.8 Flash-Next в 4 битах читал промпт 16K со скоростью 2887 токенов/с и генерировал 52 токена/с. GLM-5.3-Flash на промпте 16K дал 1107 и 41 токен/с.
Несколько пользователей и агенты: батчевый режим
Когда к модели одновременно обращаются десятки запросов, серверный движок объединяет их в батчи, и картина меняется. Самое подробное сравнение — обзор StorageReview от 6 июля 2026 года: AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 ГБ) против DGX Spark, оба на vLLM, 64 параллельных запроса.
| Модель и сценарий (вход/выход, токенов) | Ryzen AI Halo, токенов/с | DGX Spark, токенов/с | Разница |
|---|---|---|---|
| gpt-oss-120b, 256/256 | 222 | 701 | около 3,2 раза |
| gpt-oss-120b, 8K/1K (длинный промпт) | 314 | 2760 | около 8,8 раза |
| gpt-oss-120b, 1K/8K (длинный ответ) | 127 | 305 | около 2,4 раза |
| Qwen3 Coder 30B A3B, 8K/1K | 362 | 1663 | около 4,6 раза |
| Llama 3.1 8B, 1K/8K | 235 | 263 | около 12% |
Spark лидирует почти везде, а сильнее всего — на длинных промптах, типичных для RAG и агентов. Разрыв почти исчезает только в сценариях с длинными ответами на небольших моделях. StorageReview рекомендует Spark тем, кому нужна максимальная скорость и быстрая кластеризация, а Ryzen AI Halo — разработчикам под ROCm, командам, которым нужна Windows, и тем, кто хочет одну машину и для работы, и для локального ИИ.
LMSYS в обзоре DGX Spark показала тот же эффект на SGLang: у Llama 3.1 8B в FP8 суммарная генерация выросла с 20,5 токена/с при одном запросе до 368 токенов/с при 32 запросах.
У Mac с батчингом скромнее. В тесте MacStories на M5 Ultra три параллельных запроса дали суммарно 81,5 токена/с против 66,2 при одном. Ollama добавил параллельную генерацию на MLX только в предварительной версии 0.40.17-rc1 от 10 ноября 2026 года. Для одного-трёх пользователей Mac подходит хорошо, для отдела с агентами — хуже Spark. Подробно о программах для Mac — в статье «Локальная LLM на Mac: MLX, Ollama и LM Studio».
Объём памяти: какие модели помещаются
Объём памяти определяет, какие модели вообще можно запустить. Framework на странице Framework Desktop приводит рекомендованные модели для каждой конфигурации (данные на сентябрь 2026 года):
| Конфигурация | Модель и квант | Занятая память |
|---|---|---|
| Ryzen AI Max 385, 32 ГБ | Qwen3.8-27B, UD-Q4_K_XL | 17,6 ГБ |
| Ryzen AI Max+ 395, 64 ГБ | Qwen3.5-122B-A10B, Q3_K_S | 52,5 ГБ |
| Ryzen AI Max+ 395, 128 ГБ | DeepSeek V4 Flash 0731, UD-IQ2_XXS | 90,9 ГБ |
| Ryzen AI Max+ PRO 495, 192 ГБ | DeepSeek V4.1 Flash, Q2 | 163 ГБ |
Эти ориентиры применимы и к DGX Spark со 128 ГБ, и к Mac с тем же объёмом памяти. gpt-oss-120b в своём родном 4-битном формате MXFP4 на 128 ГБ помещается свободно. А самые крупные MoE-модели вроде DeepSeek V4 Flash на 128 ГБ работают только в 2–3-битном квантовании, которое снижает качество. Для них Mac Studio M5 Ultra с 256 или 512 ГБ — единственная из рассмотренных машин, которая вмещает их в 4 битах. В обзоре MacStories Qwen3.8 Flash-Next в 4 битах занимала до 155 ГБ.
Если одной машины мало, остаётся кластер. Apple заявляет, что четыре Mac Studio, связанные через Thunderbolt 5 с RDMA, дают до трёх раз более быстрый инференс, чем один. DGX Spark связывают через ConnectX-7 на 200 Гбит/с. У AMD Ryzen AI Halo, по данным StorageReview, есть только 10GbE, что ограничивает кластеризацию. Как модели делят между несколькими ускорителями, мы описывали в статье о параллелизме на нескольких GPU.
Программы: CUDA, ROCm или MLX
Железо полезно настолько, насколько его поддерживают движки инференса.
DGX Spark работает на Linux с CUDA. На нём запускаются те же движки, что и на серверах с GPU NVIDIA: в опубликованных тестах это vLLM, SGLang, llama.cpp и Ollama. Это главное преимущество для компаний: модель и настройки, отлаженные на Spark, потом переносятся на сервер с H100 или B200 без смены стека. Инструкции — в статьях о vLLM в Docker и запуске SGLang.
Strix Halo работает с Linux или Windows через ROCm или Vulkan. llama.cpp и LM Studio поддерживают его хорошо, vLLM тоже работает: StorageReview тестировал именно его. Но новые оптимизации для серверных движков появляются сначала для CUDA.
Mac — это MLX, Ollama, LM Studio и llama.cpp с Metal. Для одного пользователя это самый простой стек. Серверные vLLM и SGLang на Mac не используют, а значит, конфигурацию с Mac нельзя напрямую перенести на сервер NVIDIA.
Сравнение самих движков — в материале «vLLM, Ollama, llama.cpp и SGLang: что выбрать».
Как выбрать: порядок действий
- Опишите нагрузку. Сколько человек и агентов работают одновременно, средняя и максимальная длина промпта, допустимое время до первого токена.
- Выберите модель. От неё зависит нужный объём памяти. Подбор по классам железа — в обзоре «Какую модель выбрать для локального инференса».
- Посчитайте память. Веса плюс KV-кэш на нужный контекст и число пользователей, плюс запас на систему. Формулы — в статье «Сколько VRAM нужно для LLM».
- Определите сценарий. Много параллельных запросов и длинные промпты — DGX Spark. Один пользователь и бюджет — Strix Halo. Один пользователь, скорость и тишина — Mac Studio M5 Max. Очень большие модели — M5 Ultra.
- Проверьте на своей модели до покупки. Попросите у продавца или арендуйте машину и прогоните тест с промптами вашей длины.
- Сравните с облаком. Если нагрузка неравномерная, аренда GPU или API может обойтись дешевле. Расчёт — в статье о стоимости владения облачной и локальной LLM.
Для пятого шага подойдёт llama-bench из llama.cpp: он работает на всех трёх платформах и показывает, как скорость меняется с ростом контекста. Пример с параметрами из обсуждения llama.cpp о DGX Spark:
llama-bench -m gpt-oss-120b-mxfp4.gguf -fa 1 -ub 2048 -p 2048 -n 32 -d 0,8192,32768
Здесь -p 2048 — длина промпта, -n 32 — число генерируемых токенов, -d — сколько токенов уже лежит в контексте. Для проверки сервера под нагрузкой одного llama-bench мало: нужен тест с параллельными запросами в том движке, который вы будете использовать.
Частые вопросы
Что быстрее для одного пользователя: DGX Spark или Mac Studio? По опубликованным замерам на gpt-oss-120b Mac Studio M5 Max генерирует быстрее (около 88 токенов/с при контексте 4K против примерно 61 у Spark в llama.cpp). Spark быстрее читает длинные промпты и намного лучше масштабируется на много параллельных запросов.
Стоит ли ждать Ryzen AI Max+ PRO 495 вместо 395? Если нужны модели крупнее 128 ГБ — да, он поддерживает до 192 ГБ. Если важна скорость генерации, разница небольшая: пропускная способность выросла примерно на 7%.
Хватит ли версии DGX Spark на 64 ГБ? Для моделей класса 27B и MoE-моделей до 120 млрд параметров в 3 битах — да. Для DeepSeek V4 Flash и подобных моделей на 90 ГБ и больше нужно 128 ГБ.
Можно ли заменить такую машину игровой видеокартой? Видеокарта вроде RTX 5090 быстрее, если модель помещается в её 32 ГБ: в замерах LMSYS RTX 5090 генерировала на gpt-oss-20b 205 токенов/с против 49,7 у Spark. Если модель больше, видеокарте придётся выгружать часть весов в обычную память, и скорость резко падает.
Почему так выросли цены? Спрос на память для ИИ в дата-центрах, особенно для инференса, растёт быстрее предложения — так объясняет рост цен TrendForce. NVIDIA прямо объяснила февральское повышение цены DGX Spark ограничениями поставок памяти.
Как AI студия Владимира Ломтева помогает выбрать железо для локальной LLM
AI студия Владимира Ломтева разворачивает и дообучает LLM на собственном оборудовании компаний. При выборе между DGX Spark, Strix Halo и Mac Studio это означает:
- описать нагрузку и требования к модели, контексту и времени ответа;
- подобрать модель и квант под объём памяти и проверить их на ваших документах и запросах;
- развернуть движок инференса на выбранной машине и подключить его к вашим системам;
- провести тест с параллельными запросами и сравнить результат с критерием приёмки.
Первый шаг — выбрать один процесс, для которого нужна локальная модель, описать текущую нагрузку, данные и ограничения, а также критерий приёмки. Обсудить задачу
Итог: нагрузка определяет платформу, память определяет модель
Если к модели будут обращаться много пользователей и агентов с длинными промптами, берите DGX Spark: батчинг и prefill у него сильнее, а стек совпадает с серверами NVIDIA. Если пользователь один и бюджет ограничен, Strix Halo даёт ту же скорость генерации дешевле. Если важны скорость в одном потоке и тишина, выбирайте Mac Studio M5 Max, а для моделей больше 128 ГБ — M5 Ultra. Цены в 2026 году меняются быстро, поэтому перед покупкой сравните актуальные предложения с одинаковым объёмом памяти и проверьте выбранную модель на своих промптах.






