寒武纪完成商汤SenseNova Loop-9B的Day 0适配,打通新型循环计算架构推理链路
时间:2026-11-19来源:互联网作者:dingding
寒武纪官宣,已完成商汤新模型日日新SenseNova Loop-9B的Day 0适配。
该模型依靠Loop结构复用参数,搭配流形约束超连接(mHC),能用有限参数量拓展计算深度,针对复杂推理、代码、工具调用、多模态任务,提升在智能体、代码、数据分析任务上的效果,挖掘循环计算潜力。
寒武纪依托vllm_mlu完成本次适配,打通该模型在MLU平台的推理链路,适配工作重点围绕Loop循环结构、MLU算子适配、mHC路由优化这三方面推进。
1、Loop 循环层展开:这是SenseNova Loop-9B适配的核心,该模型以9B参数把32个物理解码层扩展为56次层计算。寒武纪采用静态展开方案,让它适配vLLM调度,共享权重,显存压力控制在32层模型水平。
2、MLU 算子适配:依托vllm_mlu里成熟算子,替换Attention、MLP等核心模块。多模态方面复用视觉相关组件,完成图像特征提取,打通图文输入场景的推理链路。
3、mHC 路由性能优化:针对mHC双流路由做专项调优,借助TMO融合归一化,搭配自动生成的Triton融合算子,精简调度流程,有效减少Kernel Launch带来的额外开销。
热门推荐
-
延庆阳光餐饮
版本:v6.8.12大小:111.40MB
下载之家为您提供延庆阳光餐饮官方最新版、延庆阳光餐饮app免费版等多个应用版本下载,该应用功能完善,使用起来简便快捷。更多延庆阳光餐饮安卓版历史版本,请到下载之家!
查看
-
瑞总管
版本:v1.0.5大小:5.30MB
瑞总管app是款适合办公中使用的移动办公平台。瑞总管app其目的是为了更好的管理、服务住宅APP“瑞家+”,需求解决了当前电商项目中物业各部门之间的业务协作管理问题,快速处理日常订单。瑞总管中用户还可以增强物业与业主之间的沟通交流,给予他们最满意的服务。
查看
-
憨妈妈
版本:3.3.2.1大小:127.79MB
憨妈妈app是款适合宝妈们使用的育儿服务平台。憨妈妈app用户提供备孕、怀孕、育儿一系列的服务,大家可以根据自己所处阶段和需求进行选择。憨妈妈中还为您挑选优质的母婴服务,发现当地火爆的产后恢复、小儿推拿、小儿洗浴等项目,专业甄选,一键下单,贴心服务。
查看
-
凤凰智慧帮
版本:5.0.9.4大小:166.02MB
凤凰智慧帮app是款有着大量课程的学习服务平台。凤凰智慧帮app有英语、数学、物理、语文等等,功能齐全,有专门的错题本,记录平时练习或者考试时候做错的题目。凤凰智慧帮还是一个基于移动互联网、大数据、智能推送等技术,结合纸质教辅书的中小学学业及考试数据收集、分析和推送系统。
查看
-
荆门市民卡
版本:V2.5.5大小:66.18MB
荆门市民卡app是针对荆门本地居民打造的生活服务平台。荆门市民卡app整合公交、停车、缴费、旅游、教育、文体、医疗、商城、公共便民服务等功能。荆门市民卡还为市民提供了个人社保查询,让你在手机上也能非常轻松的了解社保情况。
查看