AI

惠普与北大系初创联合发布能断网运行的端侧AI模型

近日,北大系初创团队元空智能发布端侧AI模型Boxer及AI办公平台“元空AI Work”、科研Agent。该35B参数模型基于开源模型后训练,可在断网环境下运行,实现发票归档、数据排查及科研绘图等任务。同时,元空智能宣布与惠普合作,将端侧AI产品预装于惠普Z系列机型,探索标准化交付与买断式商业模式,共同推动企业级端侧AI市场的发展。

来源:36氪

惠普与北大系初创联合发布端侧AI模型及科研Agent

近日,北京大学科学智能学院团队元空智能发布了端侧AI模型Boxer,以及可断网使用的AI办公平台“元空AI Work”和科研Agent“元空AI for Science”。

端侧模型Boxer及AI应用

Boxer是一个35B参数的端侧模型,主要适用于办公场景。该模型基于开源模型进行后训练,训练数据来自团队长期积累的Agent Harness产生的真实任务轨迹。在40TOPS算力的消费级PC上,Boxer可实现每秒700 Tokens以上的预填充速度和每秒30 Tokens以上的解码速度,运行内存占用不到8GB。在断网条件下,AI Work调用本地模型,可完成发票分类归档、金融交易流水数据异常排查,以及自动完成复杂实验、绘制图表、撰写论文等科研全流程。

携手惠普探索商业化落地

元空智能宣布与惠普达成合作,将AI Work及端侧模型预装在惠普Z系列机型上,进行标准化交付和买断式商业模式探索。这种模式使应用侧销售成本接近于零。元空智能CEO逄大嵬指出,端侧市场是大厂暂时不会做的生意,其竞争优势在于云端模型的商业模式让大厂不会All in端侧,而端侧环境与数据闭环是元空长期积累的核心壁垒。

端侧AI市场前景与趋势

中国惠普副总裁周信宏表示,未来每一台电脑都可能是AI电脑,企业部署AI的开销在未来两三年会翻倍。特别是金融、药企、制造等数据合规要求高的行业,必须将数据和知识留在本地,端侧AI需求即将迎来爆发。

关于端侧AI的引爆点,周信宏认为,随着PC成本上涨及服务器订单排期增加,当带本地算力的设备造价与企业长期烧云端的成本相当时,临界点就会触发。英伟达等厂商正将大内存封进芯片提供强本地算力,硬件、软件、模型三条曲线聚合将自然推动端侧AI普及。目前,惠普将纯端侧战略直接切入端侧行业、科研和企业数据安全市场,与联想、戴尔发力云端和数据中心的路径形成差异化。

原始来源: 36氪

本文由博一・AI营销中枢整理编辑,用于行业观察分享。观点归原作者所有。

更多「AI」资讯

让品牌在 AI 中生长

免费诊断你的品牌 AI 可见度