ITBear旗下自媒体矩阵:

OVHcloud开源70亿参数模型Olala mini

   时间:2026-11-17 20:12:56 来源:互联网编辑:快讯 IP:北京 发表评论无障碍通道
 

当地时间2026年11月17日,法国云服务商OVHcloud发布首个AI模型家族Olala,首款成员为Olala mini 7A1B。

Olala mini 7A1B总参数量为70亿,激活参数为10亿,采用Differential-TPA与Mamba-3混合注意力机制,支持BF16格式。在8GB显存GPU上,例如RTX A4500,该模型可实现160 TPS的吞吐表现。

训练工作在欧洲三台公共超算上完成,分别搭载GH200、A100和H100,整体投入约700万欧元。OVHcloud还计划后续推出参数规模超过1000亿的Olala 2.0。

该模型初始上下文长度为32K,并计划在年底升级至128K,同时增强数学能力。

目前,Olala mini 7A1B已以Apache 2.0协议开源至Hugging Face。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version