随着智能手机性能不断提升，一款能让AI大模型在手机本地高效运行的新技术，正悄然改变着我们使用移动设备的方式。近日，Meta公司发布了一项名为MobileMoE的创新研究，在商用手机上成功部署了混合专家模型（MoE），实测在iPhone 16 Pro上输入阶段最高提速3.8倍。
手机端大模型迎来新突破
过去，手机上的大语言模型普遍采用传统的稠密架构。这是因为移动设备在内存、算力和时延方面的限制较为严格。然而，随着手机DRAM容量不断提升，混合专家模型开始有了在手机上部署的可能性。
MobileMoE是Meta团队首次实现的高效MoE推理方案。简单来说，它像是一支分工明确的"专家团队"——每个token（文本的基本单位）通过路由器挑选出得分最高的几位专家参与计算，同时保留一位共享专家始终参与工作。这种设计让模型在保持精度的同时，大幅降低了计算量。
性能表现令人瞩目
在14项基础测试中，MobileMoE在内存相近的情况下，仅用稠密模型1/4到1/2的推理计算量，就达到了持平甚至更高的准确率。这一结果在业界引起了广泛关注。
实测数据显示，在iPhone 16 Pro的GPU和MLX后端上，MobileMoE-S版本的输入阶段最高提速达到3.8倍，逐token生成阶段提速2.2到3.4倍。这意味着未来我们使用手机语音助手、进行文本生成等操作时，响应速度将有显著提升。
训练流程科学严谨
这套技术方案的形成并非一蹴而就。研究团队采用了四个阶段的训练流程：首先是用约6万亿个token进行预训练，覆盖数学、代码、知识和科学等多个领域；然后将上下文长度扩展到8192，进一步提高高质量数据占比；接着在超过8000万样本的指令微调数据上进行训练；最后进行量化处理，将关键部分量化到INT4精度。
这种科学严谨的训练方法，使得MobileMoE在精度与推理开销之间取得了更好平衡。
与竞品对比各有优劣
测试结果显示，MobileMoE-M的平均分超过了Qwen3.5 2B，MobileMoE-L的平均分高于OLMoE-1B-7B，而所需的模型规模却更小。在代码和数学任务上，MobileMoE的表现尤为突出。
不过，研究团队也坦诚指出，在指令跟随和知识推理能力上，MobileMoE仍与Qwen3.5 2B存在一定差距。这主要是后训练阶段还有优化空间。
手机AI大模型未来可期
此次发布的技术成果，为手机端AI大模型的发展指明了方向。Meta团队表示，未来在动态路由、专家剪枝、混合精度量化以及移动端NPU部署等方面，还有更多优化空间。
随着移动端AI技术的不断进步，未来我们或许可以期待：更智能的手机助手、更快的本地AI应用、更丰富的移动端AI功能——这一切，正在一步步变为现实。
