Prime Intellect·· 2024-11-29AI 评分67
Prime Intellect 发布 INTELLECT-1:首个全球分布式训练的 10B 参数模型
INTELLECT-1 Release The First Globally Trained 10B Parameter Model
AI 导读
Prime Intellect 发布 INTELLECT-1,称其为首个全球协作训练的 10B 参数语言模型,基于 Llama-3 架构在 1T token 上训练 42 天,跨五国三洲最多同时使用 112 张 H100。
来源:Prime Intellect · primeintellect.ai