Zyphra Research·· 2024-04-16AI 评分61
Zyphra 发布 7B 混合架构基础模型 Zamba
ZAMBA
AI 导读
Zyphra 发布 7B 基础模型 Zamba,采用 Mamba 块加每 6 层共享权重的全局注意力层的混合架构。
来源:Zyphra Research · zyphra.com
ZAMBA
Zyphra 发布 7B 基础模型 Zamba,采用 Mamba 块加每 6 层共享权重的全局注意力层的混合架构。
来源:Zyphra Research · zyphra.com