DGX Spark, Strix Halo или Mac Studio M5: что купить для локальной LLM

DGX Spark или Mac Studio
Strix Halo для LLM
Mac Studio M5 для локальной LLM
железо для локальной LLM 2026
DGX Spark, Strix Halo или Mac Studio M5: что купить для локальной LLM

Для сервера, к которому одновременно обращаются несколько пользователей или агентов, из трёх платформ лучше всего подходит NVIDIA DGX Spark: в тестах vLLM при 64 параллельных запросах он обгонял мини-ПК на AMD Strix Halo в 2–4 раза, а на длинных промптах — в 8,8 раза. Для одного пользователя скорость генерации у Spark и Strix Halo близка, при этом Strix Halo заметно дешевле. По опубликованным замерам Mac Studio на M5 Max генерирует текст в одном потоке быстрее обоих благодаря пропускной способности памяти 614 ГБ/с, а M5 Ultra с 1,2 ТБ/с вмещает модели до 512 ГБ. В 2026 году на выбор сильно влияют цены: из-за дефицита памяти DGX Spark 128 ГБ подорожал с $3999 при запуске до примерно $6950 в октябре.

Сравнение подготовила AI студия Владимира Ломтева 17 ноября 2026 года. Характеристики и цены взяты из официальных страниц производителей и профильных изданий; у каждой цифры указаны источник и дата. Сами мы эти машины не тестировали. Замеры скорости принадлежат указанным авторам, сделаны в разное время, на разных движках и квантах, поэтому сравнивайте порядок величин, а не единицы токенов в секунду. Цены указаны в долларах США; рублёвые цены мы не отслеживали.

Содержание

Короткий ответ: кому что подходит

Сценарий Что выбрать Почему
Сервер для отдела, агенты, много параллельных запросов DGX Spark CUDA, vLLM и SGLang, сильный prefill и батчинг, сеть ConnectX-7 200 Гбит/с
Один пользователь, ограниченный бюджет, Linux или Windows Мини-ПК на Ryzen AI Max+ 395 (Strix Halo) 128 ГБ единой памяти, генерация на уровне Spark в одном потоке, цена ниже
Один пользователь, максимальная скорость генерации, тишина Mac Studio M5 Max 614 ГБ/с, MLX, до 128 ГБ
Модели больше 128 ГБ на одной машине Mac Studio M5 Ultra До 512 ГБ и 1,2 ТБ/с
Модели до 192 ГБ без Mac Ryzen AI Max+ PRO 495 До 192 ГБ LPDDR5X, но пропускная способность осталась около 273 ГБ/с

Если сценарий не ясен, сначала опишите нагрузку: сколько людей и агентов будут обращаться к модели одновременно, какой длины промпты и какое время ответа допустимо. Метод описан в статье о нагрузочном тесте локальной LLM.

Почему всё решают память и её пропускная способность

У всех трёх платформ единая память: процессор и графическое ядро работают с одним пулом. Поэтому они вмещают модели, которые не поместятся в игровую видеокарту на 24–32 ГБ. Но объём определяет только то, какая модель запустится. Скорость зависит от двух других параметров.

Генерация токенов (decode) упирается в пропускную способность памяти: на каждый токен нужно прочитать все активные веса модели. Верхнюю границу скорости можно оценить делением пропускной способности на объём активных весов. Для плотной модели на 70 млрд параметров в 4 битах (около 40 ГБ весов) получается:

  • DGX Spark: 273 ГБ/с ÷ 40 ГБ ≈ 6,8 токена/с;
  • Strix Halo (Ryzen AI Max+ 395): 256 ГБ/с ÷ 40 ГБ ≈ 6,4 токена/с;
  • M5 Max: 614 ГБ/с ÷ 40 ГБ ≈ 15 токенов/с;
  • M5 Ultra: 1200 ГБ/с ÷ 40 ГБ = 30 токенов/с.

Это расчётный потолок без учёта KV-кэша и накладных расходов, реальная скорость ниже. Для проверки: LMSYS измерила на DGX Spark Llama 3.1 70B в FP8 (около 70 ГБ весов) и получила 2,7 токена/с при потолке 273 ÷ 70 ≈ 3,9.

Отсюда практический вывод: на этих машинах выгодно запускать MoE-модели, у которых на каждый токен работает лишь часть параметров. gpt-oss-120b, Qwen3.8 Flash-Next или GLM-5.3-Flash генерируют в разы быстрее плотной модели того же объёма.

Чтение промпта (prefill) зависит от вычислительной мощности. Здесь у DGX Spark с графическим ядром Blackwell преимущество, и оно растёт на длинных промптах и при батчинге. Для агентов и RAG, где в модель уходят тысячи токенов контекста, prefill часто важнее скорости генерации.

Характеристики трёх платформ

Параметр DGX Spark Strix Halo (Ryzen AI Max+ 395) Mac Studio M5 Max Mac Studio M5 Ultra
Память 128 ГБ LPDDR5X; у партнёров есть версия на 64 ГБ До 128 ГБ LPDDR5X-8000 До 128 ГБ От 96 до 512 ГБ
Пропускная способность 273 ГБ/с 256 ГБ/с До 614 ГБ/с 1,2 ТБ/с
Основной стек CUDA: vLLM, SGLang, llama.cpp, Ollama ROCm и Vulkan: llama.cpp, vLLM, LM Studio MLX, Ollama, LM Studio, llama.cpp (Metal) То же
Связь между машинами ConnectX-7, 200 Гбит/с 10GbE в AMD Ryzen AI Halo Thunderbolt 5 с RDMA Thunderbolt 5 с RDMA
Операционная система Linux Linux или Windows macOS macOS

Источники: характеристики DGX Spark и версии на 64 ГБ — ServeTheHome и LMSYS; Strix Halo на примере AMD Ryzen AI Halo — StorageReview; Mac Studio — пресс-релиз Apple от 25 августа 2026 года.

В мае 2026 года AMD представила преемника — Ryzen AI Max PRO 400 (Gorgon Halo). Старший Ryzen AI Max+ PRO 495 поддерживает до 192 ГБ LPDDR5X-8533, из них до 160 ГБ можно отдать графическому ядру. Пропускная способность выросла лишь примерно на 7%, до 273 ГБ/с (ServeTheHome). То есть новый чип вмещает модели крупнее, но генерирует их не быстрее.

Цены в 2026 году: почему всё подорожало

Все три платформы используют напаянную память LPDDR5X, а её цена в 2026 году росла быстрее всего. По оценке TrendForce, которую приводит The Register, контрактные цены на LPDDR4X и LPDDR5X в первом квартале 2026 года выросли примерно на 90% к предыдущему кварталу — это самый резкий рост за всю историю наблюдений. Главная причина — спрос на память для инференса в дата-центрах.

Как это отразилось на ценах (США):

Устройство Было Стало Источник
DGX Spark Founders Edition 128 ГБ $3999 (запуск в октябре 2025 года) $4699 с 23 февраля 2026 года Форум NVIDIA: «из-за ограничений поставок памяти»
DGX Spark 128 ГБ $4699 Около $6950 в октябре 2026 года ServeTheHome, 3 октября 2026 года
DGX Spark 64 ГБ (только партнёры) — $4999, продажи с 23 октября 2026 года Там же
Framework Desktop, Ryzen AI Max+ 395, 128 ГБ $1999 $2459 Notebookcheck, 13 января 2026 года
AMD Ryzen AI Halo, 128 ГБ — $3999 с SSD 2 ТБ StorageReview, 6 июля 2026 года
Mac Studio M5 Max $2499 у предыдущего поколения От $2499, без изменений Macworld, август 2026 года
Mac Studio M5 Ultra На $200 дешевле у предыдущего поколения От $5499 Там же и Apple

По этим данным DGX Spark 128 ГБ подорожал примерно на 74% с момента запуска (расчёт: 6950 ÷ 3999), а Framework Desktop на 128 ГБ — на 23% (2459 ÷ 1999). Apple цену базовой конфигурации M5 Max не изменила, но базовая цена сильно отличается от цены конфигурации со 128 ГБ: в обзоре ComputingForGeeks Mac Studio M5 Max на 40 графических ядер и 128 ГБ указан за $5099 (цены начала октября 2026 года), а мини-ПК на Strix Halo со 128 ГБ на Amazon — около $3600 (19 октября 2026 года).

В России эту технику обычно покупают через параллельный импорт, поэтому итоговая цена и условия гарантии зависят от поставщика. Сравнивайте предложения с одинаковым объёмом памяти: разница между версиями на 64 и 128 ГБ в 2026 году стала намного больше, чем раньше.

Один пользователь: скорость в одном потоке

Ниже — опубликованные замеры на модели gpt-oss-120b (MoE, около 117 млрд параметров). Кванты, движки и даты отличаются, поэтому эти цифры показывают порядок величин, но не подходят для точного рейтинга.

Машина Движок и источник Чтение промпта, токенов/с Генерация, токенов/с
DGX Spark llama.cpp, сборка 6922, промпт 2048 токенов; при контексте 32K 1956; 1027 60,6; 40,6
Strix Halo (Framework Desktop 128 ГБ) llama.cpp Vulkan, драйвер AMDVLK, сборка 6118, промпт 512 токенов 449 33,1
MacBook Pro M5 Max 128 ГБ (тот же чип, что в Mac Studio) mlx_lm, контекст 4K; контекст 32K 1325; 2537 87,9; 64,5

Источники: DGX Spark — замер пользователя eugr от 2 ноября 2025 года в обсуждении llama.cpp №16578; Strix Halo — замер пользователя lhl от 8 августа 2025 года на форуме Framework; M5 Max — замеры пользователя r/LocalLLaMA, опубликованные Hardware Corner 11 марта 2026 года.

Что важно учесть:

  • Замер Strix Halo сделан в августе 2025 года; с тех пор llama.cpp ускорился, и на свежих сборках результат может быть выше. В том же замере драйвер RADV читал промпт в два раза медленнее AMDVLK (210 против 449 токенов/с) при той же скорости генерации, поэтому выбор драйвера Vulkan для Strix Halo имеет значение.
  • Скорость генерации Spark и Strix Halo в одном потоке близка, а Mac на M5 Max заметно быстрее. Это соответствует их пропускной способности памяти.
  • Mac Studio M5 Ultra в обзоре MacStories (256 ГБ, oMLX, сентябрь 2026 года) на модели Qwen3.8 Flash-Next в 4 битах читал промпт 16K со скоростью 2887 токенов/с и генерировал 52 токена/с. GLM-5.3-Flash на промпте 16K дал 1107 и 41 токен/с.

Несколько пользователей и агенты: батчевый режим

Когда к модели одновременно обращаются десятки запросов, серверный движок объединяет их в батчи, и картина меняется. Самое подробное сравнение — обзор StorageReview от 6 июля 2026 года: AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 ГБ) против DGX Spark, оба на vLLM, 64 параллельных запроса.

Модель и сценарий (вход/выход, токенов) Ryzen AI Halo, токенов/с DGX Spark, токенов/с Разница
gpt-oss-120b, 256/256 222 701 около 3,2 раза
gpt-oss-120b, 8K/1K (длинный промпт) 314 2760 около 8,8 раза
gpt-oss-120b, 1K/8K (длинный ответ) 127 305 около 2,4 раза
Qwen3 Coder 30B A3B, 8K/1K 362 1663 около 4,6 раза
Llama 3.1 8B, 1K/8K 235 263 около 12%

Spark лидирует почти везде, а сильнее всего — на длинных промптах, типичных для RAG и агентов. Разрыв почти исчезает только в сценариях с длинными ответами на небольших моделях. StorageReview рекомендует Spark тем, кому нужна максимальная скорость и быстрая кластеризация, а Ryzen AI Halo — разработчикам под ROCm, командам, которым нужна Windows, и тем, кто хочет одну машину и для работы, и для локального ИИ.

LMSYS в обзоре DGX Spark показала тот же эффект на SGLang: у Llama 3.1 8B в FP8 суммарная генерация выросла с 20,5 токена/с при одном запросе до 368 токенов/с при 32 запросах.

У Mac с батчингом скромнее. В тесте MacStories на M5 Ultra три параллельных запроса дали суммарно 81,5 токена/с против 66,2 при одном. Ollama добавил параллельную генерацию на MLX только в предварительной версии 0.40.17-rc1 от 10 ноября 2026 года. Для одного-трёх пользователей Mac подходит хорошо, для отдела с агентами — хуже Spark. Подробно о программах для Mac — в статье «Локальная LLM на Mac: MLX, Ollama и LM Studio».

Объём памяти: какие модели помещаются

Объём памяти определяет, какие модели вообще можно запустить. Framework на странице Framework Desktop приводит рекомендованные модели для каждой конфигурации (данные на сентябрь 2026 года):

Конфигурация Модель и квант Занятая память
Ryzen AI Max 385, 32 ГБ Qwen3.8-27B, UD-Q4_K_XL 17,6 ГБ
Ryzen AI Max+ 395, 64 ГБ Qwen3.5-122B-A10B, Q3_K_S 52,5 ГБ
Ryzen AI Max+ 395, 128 ГБ DeepSeek V4 Flash 0731, UD-IQ2_XXS 90,9 ГБ
Ryzen AI Max+ PRO 495, 192 ГБ DeepSeek V4.1 Flash, Q2 163 ГБ

Эти ориентиры применимы и к DGX Spark со 128 ГБ, и к Mac с тем же объёмом памяти. gpt-oss-120b в своём родном 4-битном формате MXFP4 на 128 ГБ помещается свободно. А самые крупные MoE-модели вроде DeepSeek V4 Flash на 128 ГБ работают только в 2–3-битном квантовании, которое снижает качество. Для них Mac Studio M5 Ultra с 256 или 512 ГБ — единственная из рассмотренных машин, которая вмещает их в 4 битах. В обзоре MacStories Qwen3.8 Flash-Next в 4 битах занимала до 155 ГБ.

Если одной машины мало, остаётся кластер. Apple заявляет, что четыре Mac Studio, связанные через Thunderbolt 5 с RDMA, дают до трёх раз более быстрый инференс, чем один. DGX Spark связывают через ConnectX-7 на 200 Гбит/с. У AMD Ryzen AI Halo, по данным StorageReview, есть только 10GbE, что ограничивает кластеризацию. Как модели делят между несколькими ускорителями, мы описывали в статье о параллелизме на нескольких GPU.

Программы: CUDA, ROCm или MLX

Железо полезно настолько, насколько его поддерживают движки инференса.

DGX Spark работает на Linux с CUDA. На нём запускаются те же движки, что и на серверах с GPU NVIDIA: в опубликованных тестах это vLLM, SGLang, llama.cpp и Ollama. Это главное преимущество для компаний: модель и настройки, отлаженные на Spark, потом переносятся на сервер с H100 или B200 без смены стека. Инструкции — в статьях о vLLM в Docker и запуске SGLang.

Strix Halo работает с Linux или Windows через ROCm или Vulkan. llama.cpp и LM Studio поддерживают его хорошо, vLLM тоже работает: StorageReview тестировал именно его. Но новые оптимизации для серверных движков появляются сначала для CUDA.

Mac — это MLX, Ollama, LM Studio и llama.cpp с Metal. Для одного пользователя это самый простой стек. Серверные vLLM и SGLang на Mac не используют, а значит, конфигурацию с Mac нельзя напрямую перенести на сервер NVIDIA.

Сравнение самих движков — в материале «vLLM, Ollama, llama.cpp и SGLang: что выбрать».

Как выбрать: порядок действий

  1. Опишите нагрузку. Сколько человек и агентов работают одновременно, средняя и максимальная длина промпта, допустимое время до первого токена.
  2. Выберите модель. От неё зависит нужный объём памяти. Подбор по классам железа — в обзоре «Какую модель выбрать для локального инференса».
  3. Посчитайте память. Веса плюс KV-кэш на нужный контекст и число пользователей, плюс запас на систему. Формулы — в статье «Сколько VRAM нужно для LLM».
  4. Определите сценарий. Много параллельных запросов и длинные промпты — DGX Spark. Один пользователь и бюджет — Strix Halo. Один пользователь, скорость и тишина — Mac Studio M5 Max. Очень большие модели — M5 Ultra.
  5. Проверьте на своей модели до покупки. Попросите у продавца или арендуйте машину и прогоните тест с промптами вашей длины.
  6. Сравните с облаком. Если нагрузка неравномерная, аренда GPU или API может обойтись дешевле. Расчёт — в статье о стоимости владения облачной и локальной LLM.

Для пятого шага подойдёт llama-bench из llama.cpp: он работает на всех трёх платформах и показывает, как скорость меняется с ростом контекста. Пример с параметрами из обсуждения llama.cpp о DGX Spark:

llama-bench -m gpt-oss-120b-mxfp4.gguf -fa 1 -ub 2048 -p 2048 -n 32 -d 0,8192,32768

Здесь -p 2048 — длина промпта, -n 32 — число генерируемых токенов, -d — сколько токенов уже лежит в контексте. Для проверки сервера под нагрузкой одного llama-bench мало: нужен тест с параллельными запросами в том движке, который вы будете использовать.

Частые вопросы

Что быстрее для одного пользователя: DGX Spark или Mac Studio? По опубликованным замерам на gpt-oss-120b Mac Studio M5 Max генерирует быстрее (около 88 токенов/с при контексте 4K против примерно 61 у Spark в llama.cpp). Spark быстрее читает длинные промпты и намного лучше масштабируется на много параллельных запросов.

Стоит ли ждать Ryzen AI Max+ PRO 495 вместо 395? Если нужны модели крупнее 128 ГБ — да, он поддерживает до 192 ГБ. Если важна скорость генерации, разница небольшая: пропускная способность выросла примерно на 7%.

Хватит ли версии DGX Spark на 64 ГБ? Для моделей класса 27B и MoE-моделей до 120 млрд параметров в 3 битах — да. Для DeepSeek V4 Flash и подобных моделей на 90 ГБ и больше нужно 128 ГБ.

Можно ли заменить такую машину игровой видеокартой? Видеокарта вроде RTX 5090 быстрее, если модель помещается в её 32 ГБ: в замерах LMSYS RTX 5090 генерировала на gpt-oss-20b 205 токенов/с против 49,7 у Spark. Если модель больше, видеокарте придётся выгружать часть весов в обычную память, и скорость резко падает.

Почему так выросли цены? Спрос на память для ИИ в дата-центрах, особенно для инференса, растёт быстрее предложения — так объясняет рост цен TrendForce. NVIDIA прямо объяснила февральское повышение цены DGX Spark ограничениями поставок памяти.

Как AI студия Владимира Ломтева помогает выбрать железо для локальной LLM

AI студия Владимира Ломтева разворачивает и дообучает LLM на собственном оборудовании компаний. При выборе между DGX Spark, Strix Halo и Mac Studio это означает:

  • описать нагрузку и требования к модели, контексту и времени ответа;
  • подобрать модель и квант под объём памяти и проверить их на ваших документах и запросах;
  • развернуть движок инференса на выбранной машине и подключить его к вашим системам;
  • провести тест с параллельными запросами и сравнить результат с критерием приёмки.

Первый шаг — выбрать один процесс, для которого нужна локальная модель, описать текущую нагрузку, данные и ограничения, а также критерий приёмки. Обсудить задачу

Итог: нагрузка определяет платформу, память определяет модель

Если к модели будут обращаться много пользователей и агентов с длинными промптами, берите DGX Spark: батчинг и prefill у него сильнее, а стек совпадает с серверами NVIDIA. Если пользователь один и бюджет ограничен, Strix Halo даёт ту же скорость генерации дешевле. Если важны скорость в одном потоке и тишина, выбирайте Mac Studio M5 Max, а для моделей больше 128 ГБ — M5 Ultra. Цены в 2026 году меняются быстро, поэтому перед покупкой сравните актуальные предложения с одинаковым объёмом памяти и проверьте выбранную модель на своих промптах.

Оставить заявку

Заполните форму и мы свяжемся с вами

← Все статьи

Комментарии (0)

Пока нет комментариев. Будьте первым!

Оставить комментарий
Регистрация не требуется