事件内容(2026-10-28)
高通技术公司发布面向数据中心的下一代 AI 推理优化方案——基于 Qualcomm AI200 与 AI250 的加速卡及机架系统。AI200 主打机架级 AI 推理:每张加速卡支持 768GB LPDDR 内存,以大内存容量与更低成本为大语言模型(LLM)和多模态模型(LMM)推理提供优化的“每美元每瓦特”性能,并支持机架级扩展。AI250 则首发基于“近存计算(Near-Memory Computing)”的创新内存架构,实现超过 10 倍的有效内存带宽提升并显著降低功耗。整套方案依托高通在 NPU 领域的技术积累,以高内存容量、高能效的机架级推理赋能可扩展的生成式 AI 部署。
值得关注的原因
- 移动 NPU 巨头正式进军机架级数据中心推理。高通把在手机与边缘端打磨的低功耗、高能效 NPU 基因推向云端推理,正面挑战以 GPU 为主的推理方案,推理加速器的“路线之争”再添重量级玩家。
- 直击推理的内存瓶颈,且路线不同于 HBM。单卡 768GB LPDDR 大内存 + 近存计算,瞄准长上下文、KV-cache、多模态推理的“容量/带宽”痛点,提供了一条有别于高成本 HBM 的技术路径。
- “每美元每瓦特”精准契合推理侧诉求。推理对成本极度敏感、且供给正走向多元化(与甲骨文同日引入多供应商芯片的趋势相互印证),高通以 TCO 立场切入恰逢其时。
- 标志 AI 推理加速进入多路线并跑。GPU、NPU、ASIC、近存计算同台竞争,推理端的“平权化”将加速模型落地成本下降,利好更广泛的 AI 应用落地。
原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/179.html