蚂蚁百灵开源了面向Personal Agent场景进一步训练的Ling-3.1-flash-1019,并同步开放基础模型Ling-3.1-flash-base。两款模型总参数均为5600亿,每个Token激活约250亿参数,均采用MIT许可证开源。
1019版性能提升与成本
1019版支持最高100万Token上下文窗口,主要面向复杂推理和智能体任务。在Artificial Analysis的智能指数v4.3.2评测中,该模型获得44分,较上一代提高3分,在同规模开放权重模型中排名第4。
在复杂知识工作和流程自动化等测试中,1019版成绩均有显著提升。但性能提升也带来更高的Token消耗,单任务平均输出约14.5万个Token,平均成本由1.01美元升至1.49美元。API定价方面,输入价格为0.30美元/百万Token,输出价格为0.90美元/百万Token。
Base模型基础能力领先
Ling-3.1-flash-base提供后训练前的基础权重。在与DeepSeek-V4-Pro-Base、MiMo-V2.5-Pro-Base的对比中,尽管后两者参数规模更大,Ling-3.1-flash-base在8个领域共47项基准测试里,有32项取得最高分。例如在数学测试MATH500和长文本理解测试LongBench中均大幅领先。
视觉模型与灵光应用
百灵还训练了视觉语言模型Ling-3.1-flash-VL,增加了对照片、截图和软件界面的理解能力。该模型已先行应用于蚂蚁旗下个人AI助理灵光2.0,支持上传作业照片核对题目、梳理知识点并生成学习计划等功能。
混合线性MoE架构
两款开源模型均采用混合线性MoE架构。注意力机制包含63层KDA线性注意力和9层门控MLA,兼顾处理效率和信息理解。MoE架构设有512个路由专家,每个Token激活其中8个并使用1个共享专家,有效减少单次计算量。Base模型采用FP8精度训练,开放BF16基础权重供开发者继续训练。
原始来源: 智东西 ↗
本文由博一・AI营销中枢整理编辑,用于行业观察分享。观点归原作者所有。