爱芯元智发布 AX8860 边端大算力芯片,国产边缘 AI 迈入「本地跑大模型」阶段

事件内容

AI 芯片公司爱芯元智在 2026 中国工博会(CIIF 2026)正式发布 AX8860 大算力边端 AI 芯片系列,同步推出元曦模组 A256S 及元曦系列推理卡、推理服务器(中证网、南方+ 等 10 月报道)。

  • 核心规格:6nm 工艺;256 TOPS 混合精度算力(原生支持 FP4);内存带宽 273 GB/s;配备 128GB LPDDR5X 大容量内存;支持 AXLink 级联与 PCIe 5.0 高速互联;具备 64 路视频解码、16 路视频编码。
  • 模型能力:单芯片可跑 3B–32B 稠密模型及百亿级 MoE 大模型;支持 LLM、VLM、Omni 等多类模型;多卡服务器 / 边缘工作站可实现 DeepSeek、Qwen、GLM、Kimi 等主流大模型全系本地部署。
  • 软件栈:兼容 vLLM、SGLang、PyTorch 等主流推理框架,提供 OpenAI API 兼容接口,配套量化 / 转换 / 编译 / 性能分析 / 调试完整工具链。
  • 场景与矩阵:面向智能制造、仓储物流、机器人等需要「感知—判断—执行」现场闭环的场景;产品矩阵覆盖 12–720 TOPS(AX8910 至 AX8970),主打沿统一技术路线扩展、减少重复选型。

值得关注的原因

  • 边端大模型推理正在落地。AX8860 把「128GB 内存 + 原生 FP4 + 高视频吞吐」打包进 6nm 边端 SoC,意味着推理可下沉到工厂现场、仓储与机器人,无需往返云端,压缩「看见问题→判断→行动」的链路。
  • 国产替代格局互补。它与英伟达 Jetson Thor(机器人端侧)、Ambarella X7(存量设备 retrofit)形成不同定位;爱芯以「全谱系 + 开箱即用工具链 + OpenAI API 兼容」降低迁移门槛,更贴合国内制造与物流客户节奏。
  • 需求确定性在上升。在 HBM 涨价、云端算力「缺电缺地」的背景下,把推理放在离数据产生最近的地方,既是成本账,也是数据主权与稳定执行的账——边端大算力芯片的长期需求被进一步夯实。

原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/132.html

赞 (0)
陈默陈默
上一篇 19小时前
微软第三代自研推理芯片 Maia 300 亮相:台积电 N2P + HBM4,2027 年冲多吉瓦级部署
下一篇 5天前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注