Мониторинг vLLM: Prometheus, Grafana и метрики GPU
14.11.2026
мониторинг vLLM Prometheus Grafana
мониторинг vLLM Prometheus Grafana инструкция
локальный инференс LLM
Как настроить мониторинг vLLM: сбор /metrics в Prometheus, панели Grafana, очередь, задержки, память GPU, алерты и диагностика деградации.
Читать →