跳到正文
Zyphra Research·· 2024-04-16AI 评分61

Zyphra 发布 7B 混合架构基础模型 Zamba

ZAMBA

AI 导读

Zyphra 发布 7B 基础模型 Zamba,采用 Mamba 块加每 6 层共享权重的全局注意力层的混合架构。

来源:Zyphra Research · zyphra.com