事件:美格智能(03268.HK)与北京万象智维(OmniMind)近日在北京签署战略合作协议,双方将整合美格智能的高算力模组产品与万象智维的模型适配、推理优化能力,围绕联合销售与联合研发推进端侧 AI 软硬件产品落地。据披露,双方已基于美格智能 SNM980 高算力 AI 模组高效跑通 35B(350 亿参数)大模型,并明确提出共同打造「个人本地 AI 调度入口」,推进跨设备协同。
AI硬件关联:SNM980 是一颗面向端侧的高算力模组,基于高通 Q-8750 平台,提供 77 TOPS INT8 稠密 AI 算力、3.4 TFLOPS GPU 算力、高通 Oryon CPU(2+6 核,最高主频 4.32GHz),搭载 Android 15,支持 Wi-Fi 7 & BT6.0、8K 视频编解码与多屏显示;万象智维则主攻端侧大模型推理、低比特量化、CPU/GPU/NPU 异构计算、MoE 专家调度与端侧 GUI Agent。软(模型优化)硬(高算力模组)协同,本质是把云端大模型「压」进消费级硬件。
为何值得关注:大模型的应用边界正从云端延伸至终端,而端侧 AI 的最大门槛是「算力、内存、功耗、平台适配」四重约束。此次合作的意义在于:35B 级别模型在单颗消费级模组上跑通,意味着个人本地 AI 助理不再依赖持续上云,隐私、时延与离线可用性同时改善;「本地 AI 调度入口」的提法,则预示着算力、模型与应用将围绕个人需求跨设备统一编排。在云端推理成本高企、数据合规趋严的当下,端侧大模型的软硬协同落地,是 AI 硬件从「概念」走向「日常可用产品」的关键一步。
原创文章,作者:陈默,如若转载,请注明出处:https://www.chenmo.net/466.html