跳到正文
蚂蚁百灵·· 2026-05-17精选AI 评分80

社区协作再创佳绩,vLLM支持万亿级模型

Another day0 collaboration, another community win. Thanks @vllm_project team for the always reliable...

AI 导读

又一次Day0协作,又一次社区胜利。感谢@vllm_project团队始终可靠的支持~ 🫡🫡

推荐理由

蚂蚁百灵把万亿参数的 thinking 模型开源,vLLM 第一天就能跑,想自己搭 agent 推理服务的可以直接动手了,开源生态的齿轮转得比想象中快。

来源:蚂蚁百灵 · x.com