高通发布 AI200/AI250 数据中心推理加速卡:单卡768GB内存、近存计算带宽超10倍

事件内容(2026-10-28)

高通技术公司发布面向数据中心的下一代 AI 推理优化方案——基于 Qualcomm AI200 与 AI250 的加速卡及机架系统。AI200 主打机架级 AI 推理:每张加速卡支持 768GB LPDDR 内存,以大内存容量与更低成本为大语言模型(LLM)和多模态模型(LMM)推理提供优化的“每美元每瓦特”性能,并支持机架级扩展。AI250 则首发基于“近存计算(Near-Memory Computing)”的创新内存架构,实现超过 10 倍的有效内存带宽提升并显著降低功耗。整套方案依托高通在 NPU 领域的技术积累,以高内存容量、高能效的机架级推理赋能可扩展的生成式 AI 部署。

值得关注的原因

  • 移动 NPU 巨头正式进军机架级数据中心推理。高通把在手机与边缘端打磨的低功耗、高能效 NPU 基因推向云端推理,正面挑战以 GPU 为主的推理方案,推理加速器的“路线之争”再添重量级玩家。
  • 直击推理的内存瓶颈,且路线不同于 HBM。单卡 768GB LPDDR 大内存 + 近存计算,瞄准长上下文、KV-cache、多模态推理的“容量/带宽”痛点,提供了一条有别于高成本 HBM 的技术路径。
  • “每美元每瓦特”精准契合推理侧诉求。推理对成本极度敏感、且供给正走向多元化(与甲骨文同日引入多供应商芯片的趋势相互印证),高通以 TCO 立场切入恰逢其时。
  • 标志 AI 推理加速进入多路线并跑。GPU、NPU、ASIC、近存计算同台竞争,推理端的“平权化”将加速模型落地成本下降,利好更广泛的 AI 应用落地。

原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/179.html

赞 (0)
陈默陈默
上一篇 14小时前
SpaceX 与 Apollo 敲定400亿美元 GPU 融资租赁:史上最大规模,锁定英伟达 Vera Rubin
下一篇 13小时前

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注