Dynamo
提供分离式预填充/解码、KV 感知路由、多级 KV 缓存管理、SLA 驱动的自动扩缩容、模型权重流式传输（ModelExpress）等功能，最大化吞吐量并最小化延迟。
一句话商业模式
为企业、云服务商、AI 基础设施团队解决多 GPU/节点推理吞吐低、延迟高、资源利用率不足，通过开源分布式推理编排框架 Dynamo提供价值，主要依靠潜在收费方式：企业支持、托管服务、与 NVIDIA 硬件捆绑赚钱
商业模式画布
将 GPU 集群转化为高效推理系统，提升吞吐量（最高 7 倍）、降低延迟（TTFT 2 倍提升）、减少 SLA 违规（80%）、降低 TCO
评分解析
研究分 77
这是什么
- 是什么
- 一个开源的数据中心级分布式推理服务框架，作为推理引擎之上的编排层，将 GPU 集群转化为协调的推理系统。
- 给谁用
- 面向需要跨多 GPU/节点部署 LLM、推理、多模态和视频生成模型的企业、云服务商和 AI 基础设施团队。