JA

MODEL

Jamba 1.5

升级版的混合架构模型,扩大规模并支持最高 25 万 token 的长文本处理。 参数规模:398B (MoE);开放方式:开源;主要架构:Mamba–Transformer 混合架构。

发布日期:
2024-08-22
参数量:
398B (MoE)
架构:
Mamba–Transformer 混合架构
模态:
文本
开放方式:
开源
1 个相关事件

相关事件

按时间倒序整理已验证的发布与公司动态。

开源发布

AIAI21 Labs关键开源

AI21 Labs 发布 Jamba 1.5

升级版的混合架构模型,扩大规模并支持最高 25 万 token 的长文本处理。

#开源#文本
00