vLLM 官方博客·· 17 天前AI 评分65
vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持
Serving Reflection Beam on vLLM from Day 0
AI 导读
vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型，这是一个 501B 参数、每 token 激活 23B 的 MoE 模型，在 NVIDIA Blackwell 上完成优化。
来源：vLLM 官方博客 · vllm.ai
vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持