返回行业动态
行业与市场

欧洲云厂商自训模型开源:8GB 显卡能跑,权重按 Apache 2.0 放出

OVHcloud 于 11 月 17 日发布首个自研模型家族 Olala,首款 Olala mini 7A1B 为 70 亿参数、每词元激活 10 亿的稀疏模型,8GB 显存即可运行,RTX A4500 上达每秒 160 词元。权重、技术报告与欧盟 AI 法案合规文档一并按 Apache 2.0 开放,训练使用三台欧洲公共超算。

来源:OVHcloud 官方新闻室:OVH announces Olala mini 7A1B原标题:OVH announces Olala mini 7A1B查看原文
明亮机房内一块小型加速卡置于台面中央,四周成排空置机柜与蓝色冷光,顶部深色吊顶有白色中文标题

图片来源:北京拓实科技原创(AI 生成封面)

发布内容

OVHcloud 在 11 月 17 日发布旗下首个大模型家族 Olala,首款型号 Olala mini 7A1B:总参数 70 亿,每层 256 个专家、每词元激活 10 亿参数,采用 Differential-TPA 与 Mamba-3 的混合注意力,BF16 精度。官方称其在 8GB 显存的显卡上即可运行,RTX A4500 上达到每秒 160 词元,纯 CPU 上每秒 50 词元,上下文 32000 词元。

权重、预训练基座模型、技术报告与欧盟 AI 法案合规文档一并发布,许可为 Apache 2.0,托管在 Hugging Face。正式亮相安排在 11 月 19 日的 OVHcloud AI Summit,届时会公布完整的云与 AI 产品线更新。

钱和算力从哪来

训练使用了三台欧洲公共超算——Jupiter、MeluXina 与 Jean Zay,分别配备 GH200、A100 与 H100,官方称这部分支持折合约 700 万欧元的机时,并称公共投入同时催生了 OVH 的智能体实验室与 OVHai 模型团队。公司首席执行官 Octave Klaba 的表态很直接:不能长期依赖某些实验室的开源善意;训练成本三年内降了约二十倍,自建模型已经可以算得过账。

首个生产用户是法国搜索引擎 Qwant,用于快答功能。官方口径为回答速度提升 20%、运行成本降至原模型的三分之一。

该怎么看这件事

从参数规模看,70 亿参数在通用能力上无法与前沿旗舰相比,32000 词元的上下文也明显偏小。它的意义不在跑分,而在三件事:欧洲厂商第一次把自训、开放权重与合规文档做成一套完整交付物;小显存可运行意味着能在工作站本地部署,对数据不能出境的场景有实际价值;公开的超算机时与成本结构,为讨论主权 AI 到底要花多少钱提供了一个可核对的样本。

路线图方面,官方称年底前的 1.1 版把上下文扩到 128000 词元并强化数学推理,2.0 版将超过 1000 亿参数,并分化为企业智能体、云 DevOps 与网络安全三个方向。所有性能数字均为厂商与客户自述,尚无第三方基准复现,也没有公开训练数据构成与评测细节。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。