事件内容:10 月 20–21 日,DeepSeek 开源自研推理框架 DeepInfer。最受关注的是它对硬件的态度:华为昇腾 950 系列 NPU 与英伟达 SM100(Blackwell 架构 GPU)被列为同一代码树下的“对等构建目标(peer build targets)”——在模型推理过程中,仅通过一个环境变量即可在两类硬件之间切换,迁移成本理论上被大幅抹平。过去,国产芯片在大模型里多作为次序靠后的“补充后端”,而 DeepInfer 把它们放到了与英伟达并列的“一等公民”位置。背景上,美国国土安全部于 10 月 19 日公开要求联邦机构停止采购 DeepSeek 相关产品,让这场“国产芯片能否在推理层对等”的讨论进一步升温。
客观看,工程验证仍弱于市场叙事:公开的基准测试多基于英伟达硬件,昇腾在同模型、同 batch、同延迟目标下的并排数据仍偏少;且 DeepInfer 目前侧重离线推理(便于测量与集成),尚未覆盖大规模生产集群所需的跨节点缓存管理、负载均衡等“控制平面”细节。
值得关注的原因:
1. 攻的是英伟达最软的“护城河接缝”。训练侧 CUDA 生态极深、多卡互连成熟,短期难撼;但推理侧权重固定、按 token 计费,延迟 / 成本 / 在线率才是胜负手——这里国产加速器一直更有机会,DeepInfer 把这点变成了“框架级”支持。
2. 把“先假设英伟达、再考虑别的”心智模式改写。同一套框架下,新项目可据供货、成本、合规、地缘条件自由选板,不再为每个赌注重建技术栈;当交付延期时,双路软件就是对冲。
3. “硬件霸主”会被迫用软件回应软件。英伟达也在推面向自家 GPU 的开放 / 半开放 serving 层并迭代到生产级编排;一个“后端平权”的框架,会逼出原厂自己的软件答案,生态博弈进入新阶段。
4. 对国内算力采购是“解耦信号”。在供给收紧、出口受限的环境下,框架不硬编码单一供应商,等于给采购与平台团队留出腾挪空间,国产芯片有望借真实业务部署积累优化经验、形成正向循环。
5. 保持清醒。营销口径与工程实证仍是两份文档:昇腾“对等”是否成立,最终要由功耗、毫秒与账单——而非支持矩阵上的对称性——来裁决;训练侧对 CUDA 的依赖并未因此消失。
来源:钛媒体 APP、今日头条关于 DeepSeek DeepInfer 开源及美国 DHS 相关禁令的报道,及 DeepSeek 官方技术报告要点整理。
原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/89.html