Несколько LoRA-адаптеров на одной модели в vLLM
16.11.2026
LoRA адаптеры vLLM
multi-LoRA serving
vllm enable-lora max-loras
Как обслуживать несколько LoRA-адаптеров на одной базовой модели в vLLM: расчёт памяти, --enable-lora, --max-loras, выбор адаптера в запросе, загрузка без перезапуска.
Читать →