事件时间:近日,深圳河套学院联合哈尔滨工业大学(深圳)、深圳市大数据研究院、华为团队及深智城AI算力平台,依托华为昇腾910C国产AI算力集群,完成1.6万亿参数大模型DeepSeek-V4-Pro的全流程训练与全参数后训练(SFT)。深圳方面称其为业界首个由第三方机构在国产算力平台上完成同级别模型全参数后训练的工程实践。
一、事件内容
- 千卡级集群、工业级稳定。项目依托千卡级昇腾910C集群,仅用约1个月即实现DeepSeek-V4-Pro全参数续训练/SFT稳定运行,完成1500+步长稳训练,单步约27秒,训练MFU(机器浮点利用率)超30%,关键训练算子效率提升约14%,全程零中断、达工业运行标准。
- 啃下MoE后训练硬骨头。该模型采用MoE架构,后训练时专家间通信量为普通模型数十倍,叠加动态注意力机制,对芯片算力调度与显存管理要求极苛刻。团队通过”显存拼图”(分布式承载)、”负载均衡调度”(优化MoE路由避免跨卡通信拥堵)、全链路监控三大突破实现稳定训练。
- 底层芯片:昇腾910C。采用中芯国际7nm(N+2)工艺,集成530亿晶体管,FP16算力640—800 TFLOPS,整卡国产化率约55%,月产能已达20万颗,为规模化应用奠定基础。
二、为什么值得关注
- 打破”国产算力只能做推理”的偏见。长期以来全球万亿级大模型训练多采用海外高端算力,国产算力多用于推理与小幅微调。本次实践首次在第三方机构层面验证国产芯片已具备支撑世界级超大参数模型训练的能力。
- 算力自主可控的战略意义。在全球AI芯片地缘博弈背景下,国产超大模型”从训练到推理英伟达含量为0″的全链路闭环,对AI产业链安全价值突出;摩根士丹利预测2030年中国AI芯片自给率将达86%。
- 接近生产级训练标准。千卡级、MFU超30%已达工业级,说明国产算力正从零星适配走向工程化、规模化训练,并为后续常态化超大模型训练积累真实经验与人才(项目已培养40余名技术人员)。
原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/296.html