跳到正文
Apple Machine Learning Research·· 18 天前AI 评分60

Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型

Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio

AI 导读

Apple 机器学习研究团队演示如何在 Mac Studio 上本地运行近万亿参数的 Muse Spark Open 等前沿模型,使用今天发布的新版 MLX(v0.30.1 起)与 macOS 26.2 的 RDMA over Thunderbolt 驱动。

来源:Apple Machine Learning Research · machinelearning.apple.com