惠普与北大系初创联合发布端侧AI模型及科研Agent
近日,北京大学科学智能学院团队元空智能发布了端侧AI模型Boxer,以及可断网使用的AI办公平台“元空AI Work”和科研Agent“元空AI for Science”。
端侧模型Boxer及AI应用
Boxer是一个35B参数的端侧模型,主要适用于办公场景。该模型基于开源模型进行后训练,训练数据来自团队长期积累的Agent Harness产生的真实任务轨迹。在40TOPS算力的消费级PC上,Boxer可实现每秒700 Tokens以上的预填充速度和每秒30 Tokens以上的解码速度,运行内存占用不到8GB。在断网条件下,AI Work调用本地模型,可完成发票分类归档、金融交易流水数据异常排查,以及自动完成复杂实验、绘制图表、撰写论文等科研全流程。
携手惠普探索商业化落地
元空智能宣布与惠普达成合作,将AI Work及端侧模型预装在惠普Z系列机型上,进行标准化交付和买断式商业模式探索。这种模式使应用侧销售成本接近于零。元空智能CEO逄大嵬指出,端侧市场是大厂暂时不会做的生意,其竞争优势在于云端模型的商业模式让大厂不会All in端侧,而端侧环境与数据闭环是元空长期积累的核心壁垒。
端侧AI市场前景与趋势
中国惠普副总裁周信宏表示,未来每一台电脑都可能是AI电脑,企业部署AI的开销在未来两三年会翻倍。特别是金融、药企、制造等数据合规要求高的行业,必须将数据和知识留在本地,端侧AI需求即将迎来爆发。
关于端侧AI的引爆点,周信宏认为,随着PC成本上涨及服务器订单排期增加,当带本地算力的设备造价与企业长期烧云端的成本相当时,临界点就会触发。英伟达等厂商正将大内存封进芯片提供强本地算力,硬件、软件、模型三条曲线聚合将自然推动端侧AI普及。目前,惠普将纯端侧战略直接切入端侧行业、科研和企业数据安全市场,与联想、戴尔发力云端和数据中心的路径形成差异化。
原始来源: 36氪 ↗
本文由博一・AI营销中枢整理编辑,用于行业观察分享。观点归原作者所有。