Инференс open source LLM в российском облаке: какой формат выбрать

Инференс LLM — это запуск обученной языковой модели для ответа на запросы: модель получает текст и возвращает результат. Российская компания может организовать его шестью способами: платить за токены проприетарной модели, платить за токены открытой модели в облаке, арендовать выделенный эндпоинт, запустить свои или дообученные веса на мощностях провайдера, арендовать GPU и собрать всё самостоятельно или поставить сервер в своём контуре. Для старта и переменной нагрузки обычно выгоднее оплата за токены, для стабильного большого потока и строгих требований к данным — выделенный инференс или собственный контур. Точный порог определяет расчёт на ваших запросах.

Материал подготовлен AIrassvet по открытым источникам, проверенным 9 октября 2026 года. Он адресован владельцам бизнеса, ИТ-директорам и руководителям цифровых проектов, которые выбирают, где и как запускать языковые модели. Цены и каталоги моделей у провайдеров меняются часто, поэтому конкретные тарифы в статье не приводятся. AIrassvet не аффилирован с упомянутыми провайдерами, а раздел в конце описывает услуги издателя.

Содержание

Почему тема стала горячей в октябре 2026 года
Кратко: шесть форматов инференса
Оплата за токены: проприетарные и открытые модели
Выделенный инференс и свои веса
Аренда GPU и собственный сервер
Когда переходить с токенов на выделенный инференс
Что проверить у провайдера и в договоре
Как выбрать формат: пошаговый порядок
Типичные ошибки при выборе
Частые вопросы
Первоисточники и метод проверки

Почему тема стала горячей в октябре 2026 года

8 октября 2026 года CNews сообщил, что Selectel обновил свою ИИ-платформу и добавил два сервиса:

Token Factory — доступ к открытым моделям GLM-5.3-Flash, DeepSeek-V4-Flash, Qwen3.8-Flash-Next и Qwen3.8-27b, развёрнутым на инфраструктуре провайдера, через единый API с оплатой в рублях за фактически использованные токены. По заявлению компании, данные размещаются и обрабатываются в России на инфраструктуре, соответствующей 152-ФЗ.
Custom Inference — запуск моделей из каталога или собственных, в том числе дообученных на корпоративных данных, на выделенных мощностях провайдера.

В ту же платформу, по сообщению, входят ранее запущенные ИИ-роутер с доступом к более чем 400 зарубежным моделям через единый API, выделенный инференс с изолированным эндпоинтом, совместимым с OpenAI API, и маркетплейс готовых решений.

В тот же день CNews опубликовал исследование Selectel и аналитической компании Apple Hills Digital о рынке облачных сервисов для ИИ:

совокупное потребление облачных сервисов для ИИ в России в 2025 году — 65,5 млрд руб., из них 40,8 млрд руб. (62%) — внутреннее потребление в экосистемах провайдеров, 24,7 млрд руб. — рыночное;
инфраструктура с GPU в публичном облаке — 8,2 млрд руб., рост на 68,7% к 2024 году; AI/ML-платформы — 9,4 млрд руб., рост на 97%;
по словам представителя Selectel, за девять месяцев 2026 года потребление серверов с GPU у компании выросло в 2,6 раза к аналогичному периоду прошлого года, основной спрос — от крупного бизнеса;
аналитик Apple Hills Digital отметила, что рынок облачных сервисов для ИИ в России сейчас ограничен скорее предложением, чем спросом.

Исследование подготовлено при участии провайдера, который сам продаёт эти сервисы; цифры стоит читать с этой оговоркой.

Кратко: шесть форматов инференса

Формат	Как оплачивается	Контроль над моделью и данными	Кому подходит
API проприетарной модели	За токены	Модель и условия задаёт разработчик; данные уходят к нему	Быстрый старт, задачи, где важна сильная модель
Открытая модель по API (токены)	За токены	Выбор из каталога провайдера; данные у облачного провайдера	Пилоты, переменная нагрузка, требование обработки в России
Выделенный эндпоинт модели из каталога	За время работы выделенных ресурсов	Изолированный эндпоинт, предсказуемая скорость	Стабильный поток запросов, требования к задержке
Свои или дообученные веса на мощностях провайдера	За ресурсы	Своя модель без своей инфраструктуры	Компании с дообученной моделью
Аренда GPU (виртуальная машина или выделенный сервер)	За время аренды	Полный контроль над стеком; вся эксплуатация на вас	Команды с ML-инженерами, нестандартные модели
Собственный сервер в контуре компании	Капитальные затраты и эксплуатация	Максимальный контроль, данные не покидают контур	Строгие требования безопасности, большой стабильный объём

Чем ниже строка, тем больше контроля и тем больше работы ложится на компанию. Подробное сравнение облачного и локального контура по полной стоимости владения — в статье «Облачная или локальная LLM: как сравнить TCO».

Оплата за токены: проприетарные и открытые модели

Оплата за токены — самый быстрый способ начать: не нужно арендовать серверы, вы платите только за обработанный текст. Разница между проприетарной и открытой моделью в этом формате в основном в контроле.

Проприетарная модель даёт доступ к сильным коммерческим моделям, но её поведение, цены и доступность определяет разработчик. Если это зарубежная модель, для запросов с персональными данными возникает вопрос трансграничной передачи — о нём в статье «152-ФЗ и зарубежные нейросети».
Открытая модель у российского облачного провайдера работает на его инфраструктуре. Если позже понадобится перейти на выделенный инференс или свой сервер, ту же модель с открытыми весами можно запустить там — промпты и тесты переносятся с меньшими потерями.

Слабые места формата: при резком росте нагрузки возможны ограничения по числу запросов, скорость ответа зависит от общей нагрузки на сервис, а стоимость растёт линейно с объёмом. Для русского текста важно ещё и то, как токенизатор модели режет слова, — об этом в статье «Почему русский текст в LLM дороже».

Выделенный инференс и свои веса

Выделенный инференс — это модель, запущенная на ресурсах, закреплённых только за вашей компанией, с отдельным эндпоинтом. Вы платите за время работы ресурсов, а не за токены, поэтому стоимость не растёт с каждым запросом, но и не падает, когда запросов нет.

Когда этот формат оправдан:

поток запросов стабилен и большой — например, агент разбирает входящие документы весь рабочий день;
нужна предсказуемая задержка ответа, на которую не влияют другие клиенты провайдера;
требуется изоляция: отдельный эндпоинт проще описать в модели угроз и согласовать со службой безопасности;
у компании есть дообученная модель, которую нет в общем каталоге.

Вариант «свои веса на мощностях провайдера» снимает необходимость строить и обслуживать кластер. Но дообучение само по себе — отдельный проект с данными и проверкой качества; о том, когда оно нужно, а когда хватает поиска по базе знаний, — в статье «RAG, дообучение или промпт-инжиниринг: что выбрать».

Аренда GPU и собственный сервер

Аренда GPU даёт полный контроль: вы сами выбираете модель, движок инференса, квантизацию и настройки. Цена этого контроля — эксплуатация: обновления, мониторинг, масштабирование, дежурства. По данным исследования «К2Тех», которое CNews опубликовал 5 октября 2026 года, среди крупных промышленных компаний 27% назвали недостаток вычислительных мощностей главным ограничением, 24% арендуют GPU у сторонних провайдеров, 21% сочетают собственные мощности с облаком для пиковых нагрузок и ещё 21% располагают собственными GPU-кластерами с запасом ресурсов.

Собственный сервер в контуре компании оправдан, когда данные нельзя выносить даже к российскому облачному провайдеру или когда объём запросов велик и стабилен на годы вперёд. О подборе моделей и железа для такого варианта — в обзоре «Локальные LLM 2026: модели, железо и стоимость».

Когда переходить с токенов на выделенный инференс

Решение принимают по расчёту, а не по ощущению. Простая формула для сравнения за месяц:

Показатель	Как посчитать
Стоимость при оплате за токены	(входные токены × цена входного токена + выходные токены × цена выходного токена) за месяц
Стоимость выделенного инференса	цена часа выделенных ресурсов × часы работы в месяц + затраты команды на настройку
Точка безубыточности	объём токенов, при котором две суммы равны
Запас по нагрузке	пиковое число одновременных запросов / пропускная способность выделенного эндпоинта

Входные данные для расчёта берите из журнала реальных запросов за 2–4 недели, а не из оценок. Учитывайте, что выделенные ресурсы можно выключать ночью только если процесс это допускает, и что при ошибке в оценке нагрузки выделенный эндпоинт будет либо простаивать, либо не справляться с пиками.

На сессии ИКС Холдинга 9 октября 2026 года, по пересказу CNews, представители крупных компаний говорили о том же: руководитель Скала^р рассказал, что компания ввела метрики стоимости токенов и исполнения пайплайнов, а технический директор Т-Банка — что банк ищет баланс между покупкой токенов и развёртыванием моделей. Для компании малого и среднего бизнеса вывод тот же в меньшем масштабе: считайте стоимость одного выполненного запроса или задачи, а не цену токена.

Что проверить у провайдера и в договоре

Где обрабатываются данные. Площадка в России, соответствие требованиям 152-ФЗ, наличие договора поручения на обработку персональных данных, если они передаются.
Хранение запросов. Хранит ли провайдер запросы и ответы, сколько и для чего; используются ли они для обучения.
Ограничения по нагрузке. Лимиты запросов и токенов в минуту, порядок их увеличения.
Совместимость API. Совместимость с OpenAI API упрощает переход между провайдерами, но поведение моделей всё равно нужно проверять на ваших данных.
Отказоустойчивость. В скольких зонах доступности работает сервис, что обещано при отказе площадки, как быстро можно перенести выделенный эндпоинт.
Стабильность каталога. Как провайдер предупреждает о выводе модели из каталога и сколько времени даёт на переход.
Переходные нормы 243-ФЗ. По Федеральному закону № 243-ФЗ с 1 марта 2027 года правительство определит случаи, когда допускаются только суверенные или национальные модели. Для систем, работающих на эту дату, действует переходный период до 1 сентября 2032 года при условии обработки и хранения данных в России. Если ваш процесс может попасть в такой перечень, место обработки данных стоит фиксировать уже сейчас.

Как выбрать формат: пошаговый порядок

Опишите сценарий. Какая задача, какой объём запросов в день, какие данные на входе и какого они класса.
Соберите контрольный набор. 50–100 типичных запросов с эталонными ответами для проверки качества.
Проверьте качество на двух-трёх моделях по токенам. Начните с оплаты за токены: это дешевле всего для проверки гипотезы.
Замерьте реальные объёмы. Две-четыре недели журнала запросов дадут цифры для формулы выше.
Сравните форматы по формуле и требованиям к данным. Если обработка должна идти только в контуре компании, часть форматов отпадает сразу.
Заложите запасной вариант. Вторая модель или второй провайдер для критичного сценария, слой маршрутизации между ними. О нём — в статье «Роутер моделей ИИ для бизнеса».

Типичные ошибки при выборе

Сравнивать цену токена, а не стоимость задачи. Разные модели тратят разное число токенов на один и тот же русский текст и дают ответы разной длины.
Сразу покупать выделенные ресурсы. Без замеров реальной нагрузки легко переплатить за простаивающий эндпоинт.
Выбирать модель по общим рейтингам. Качество на ваших документах и вопросах может отличаться от публичных тестов.
Не учитывать эксплуатацию. Аренда GPU дешевле на бумаге, пока не посчитаны часы инженеров.
Держать всё у одного провайдера. Отказ площадки или вывод модели из каталога останавливает процесс целиком.

Частые вопросы

Что такое инференс LLM?

Это запуск обученной языковой модели для ответа на запросы: модель получает текст и возвращает результат. Инференс отличается от обучения тем, что веса модели не меняются, а основные затраты связаны с вычислениями на каждый запрос.

Чем открытая модель по API отличается от проприетарной?

Открытую модель с публичными весами можно запустить у разных провайдеров или на своём сервере, поэтому переход между форматами проще. Проприетарная модель доступна только у её разработчика или его партнёров, и условия задаёт он.

Когда переходить с оплаты за токены на выделенный инференс?

Когда поток запросов стабилен и велик, нужна предсказуемая задержка или изоляция. Порог считают по журналу реальных запросов: сравнивают месячную стоимость токенов со стоимостью часов выделенных ресурсов и работы команды.

Можно ли запускать LLM в облаке с персональными данными?

Можно, если провайдер обрабатывает данные в России, соответствует требованиям 152-ФЗ и с ним заключён договор поручения на обработку. Для особо чувствительных данных компании часто выбирают выделенный эндпоинт или собственный сервер.

Нужна ли своя команда ML-инженеров для облачного инференса?

Для оплаты за токены и выделенного эндпоинта из каталога — обычно нет, достаточно разработчика для интеграции. Для аренды GPU и собственного сервера нужны специалисты, которые настраивают движок инференса, мониторинг и обновления.

Как 243-ФЗ влияет на выбор формата инференса?

С 1 марта 2027 года правительство определит случаи, где допускаются только суверенные или национальные модели. Для систем, работающих на эту дату, переходный период до 1 сентября 2032 года действует при условии обработки и хранения данных в России, поэтому место обработки стоит фиксировать уже сейчас.

Первоисточники и метод проверки

Проверено 9 октября 2026 года:

CNews, 8 октября 2026 — обновлённая ИИ-платформа Selectel: Token Factory, Custom Inference, ИИ-роутер, выделенный инференс, маркетплейс.
CNews, 8 октября 2026 — исследование Selectel и Apple Hills Digital о рынке облачных сервисов для ИИ в 2025 году и сценариях до 2030 года.
CNews, 9 октября 2026 — сессия ИКС Холдинга о корпоративной ИИ-инфраструктуре и экономике токенов.
CNews, 5 октября 2026 — исследование «К2Тех» о вычислительных ограничениях промышленных компаний.
КонсультантПлюс, 243-ФЗ — нормы о суверенных и национальных моделях и переходный период.

Сведения о сервисах приведены по пресс-сообщению провайдера в пересказе CNews и не проверялись испытаниями. Таблица форматов, формула сравнения, порядок выбора и перечень ошибок — редакционный анализ AIrassvet; собственных замеров и результатов проектов статья не приводит.

Как AIrassvet помогает выбрать и развернуть языковую модель

Если вы выбираете, где и как запускать языковую модель для своих процессов, задачу можно разобрать по шагам. На сайте AIrassvet, который также использует название «AI студия Владимира Ломтева», описаны направления, применимые к ней:

Аудит сценария и подготовка данных: объём запросов, классы данных, контрольный набор для проверки качества моделей.
Интеграция моделей, в том числе отечественных, через единый слой, чтобы сравнить их на ваших задачах и переключаться без переписывания приложения.
Развёртывание языковой модели на серверах компании или в защищённом облаке, когда данные нельзя передавать во внешние сервисы.
Дообучение открытой модели на корпоративных данных, если поиска по базе знаний не хватает.

Первый шаг — выбрать один процесс, описать его текущие показатели, источники данных, ограничения и критерий, по которому вы признаете выбранный формат подходящим.

Обсудить задачу.

Итог: формат инференса выбирают по расчёту

Российский рынок облачных сервисов для ИИ быстро растёт, и провайдеры предлагают всё больше форматов — от оплаты за токены открытых моделей до выделенных эндпоинтов и запуска собственных весов. Это расширяет выбор, но не отменяет расчёта.

Начинайте с оплаты за токены на открытых моделях с обработкой данных в России, соберите контрольный набор и журнал реальных запросов, а затем сравните стоимость одной задачи в разных форматах. Переход на выделенный инференс или свой сервер оправдан тогда, когда его подтверждают цифры, требования к данным и готовность команды к эксплуатации.