Утечка KV-кэша в SGLang: как изолировать пользователей LLM
16.11.2026
утечка KV-кэша SGLang
изоляция пользователей сервер инференса
cache_salt vLLM
Разбор инцидента Cloudflare и SGLang с утечкой KV-кэша между пользователями: причины, затронутые версии, что обновить и как проверить изоляцию на своём сервере LLM.
Читать →