跳到正文
Prime Intellect·· 2024-11-29AI 评分67

Prime Intellect 发布 INTELLECT-1:首个全球分布式训练的 10B 参数模型

INTELLECT-1 Release The First Globally Trained 10B Parameter Model

AI 导读

Prime Intellect 发布 INTELLECT-1,称其为首个全球协作训练的 10B 参数语言模型,基于 Llama-3 架构在 1T token 上训练 42 天,跨五国三洲最多同时使用 112 张 H100。

来源:Prime Intellect · primeintellect.ai