DeepSeek 开源推理框架 DeepInfer:对等支持华为昇腾 950 与英伟达 SM100,推理时代国产芯片成“对等主力”

10 月 20–21 日,DeepSeek 开源自研推理框架 DeepInfer,华为昇腾 950 系列 NPU 与英伟达 SM100(Blackwell)被列为同代码树下的“对等构建目标”,仅一个环境变量即可在两类硬件间切换;叠加 10 月 19 日美国国土安全部要求联邦机构停购 DeepSeek 产品,相关讨论急剧升温。

事件内容:10 月 20–21 日,DeepSeek 开源自研推理框架 DeepInfer。最受关注的是它对硬件的态度:华为昇腾 950 系列 NPU 与英伟达 SM100(Blackwell 架构 GPU)被列为同一代码树下的“对等构建目标(peer build targets)”——在模型推理过程中,仅通过一个环境变量即可在两类硬件之间切换,迁移成本理论上被大幅抹平。过去,国产芯片在大模型里多作为次序靠后的“补充后端”,而 DeepInfer 把它们放到了与英伟达并列的“一等公民”位置。背景上,美国国土安全部于 10 月 19 日公开要求联邦机构停止采购 DeepSeek 相关产品,让这场“国产芯片能否在推理层对等”的讨论进一步升温。

客观看,工程验证仍弱于市场叙事:公开的基准测试多基于英伟达硬件,昇腾在同模型、同 batch、同延迟目标下的并排数据仍偏少;且 DeepInfer 目前侧重离线推理(便于测量与集成),尚未覆盖大规模生产集群所需的跨节点缓存管理、负载均衡等“控制平面”细节。

值得关注的原因:

1. 攻的是英伟达最软的“护城河接缝”。训练侧 CUDA 生态极深、多卡互连成熟,短期难撼;但推理侧权重固定、按 token 计费,延迟 / 成本 / 在线率才是胜负手——这里国产加速器一直更有机会,DeepInfer 把这点变成了“框架级”支持。

2. 把“先假设英伟达、再考虑别的”心智模式改写。同一套框架下,新项目可据供货、成本、合规、地缘条件自由选板,不再为每个赌注重建技术栈;当交付延期时,双路软件就是对冲。

3. “硬件霸主”会被迫用软件回应软件。英伟达也在推面向自家 GPU 的开放 / 半开放 serving 层并迭代到生产级编排;一个“后端平权”的框架,会逼出原厂自己的软件答案,生态博弈进入新阶段。

4. 对国内算力采购是“解耦信号”。在供给收紧、出口受限的环境下,框架不硬编码单一供应商,等于给采购与平台团队留出腾挪空间,国产芯片有望借真实业务部署积累优化经验、形成正向循环。

5. 保持清醒。营销口径与工程实证仍是两份文档:昇腾“对等”是否成立,最终要由功耗、毫秒与账单——而非支持矩阵上的对称性——来裁决;训练侧对 CUDA 的依赖并未因此消失。

来源:钛媒体 APP、今日头条关于 DeepSeek DeepInfer 开源及美国 DHS 相关禁令的报道,及 DeepSeek 官方技术报告要点整理。

原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/89.html

赞 (0)
陈默陈默
新突思 Synaptics 推出 Astra SR200 边缘 AI MCU:内置谷歌 Coral NPU + 高带宽定制 DRAM
上一篇 10小时前
日本官宣国家级 2nm AI 医疗影像项目:LSTC/Rapidus 把专用推理芯片塞进 CT 与超声设备
下一篇 9小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注