pp-separation-benchmark

对LLM服务中的入口层热/冷池分离进行基准测试，对比统一的缓存感知基线。适用于入口分流基准测试、热/冷GPU比例扫描或真实vLLM池验证。该工作流对重放数据集进行性能分析，在SLO约束下测量基线QPS，扫描不同比例，并报告最佳比例及其对应的延迟、缓存和负载不均衡指标。包含策略保真度和编排保真度层级，并修复了容器终止、比例处理失败、CDI GPU直通以及glibc与musl镜像兼容性等问题。

模型生成摘要（rules/v1 · 2026-11-15 10:00）：对LLM服务中的入口层热/冷池分离进行基准测试，对比统一的缓存感知基线
这是模型对公开材料的总结，不是官方声明，请以原链内容为准。

存档时间线

版本	存档时间	内容哈希	内容
v1	2026-11-15 09:58	7e315c64	可取

版本索引永久保留；内容副本只保留最新 1 份，更早版本仅留索引与哈希（存档时间线的证据链不会因此断裂）。

下载存档内容副本

纠错与举报（发现条目失效、署名有误或涉及侵权？）

提交举报 / 纠错

侵权举报经核验成立后，我们会即时下线该条目并删除已存的内容副本。