从发布参数，到发布架构
Fable 5 原定 7 月 8 日下午下线，现延长到 12 号，之后订阅用户不能用套餐限额体验。这引发人们对该级别模型在本地设备运行的畅想。过去人们探讨前沿模型关注其强度、速度和可取代的工作，此次有人问能否跑在端侧。但 Fable 5 是 Anthropic 首个 Mythos 级公开模型，运行在数据中心，与端侧设备有算力、功耗和模型压缩难题。其下线事件提醒若不拥有硅和权重，高可用性是幻觉，也表明端侧 AI 从行业术语变为大众期待。
从发布参数，到发布架构
过去两年端侧 AI 主题是「宣布」，今年是「重构」，芯片厂商围绕本地 AI 推理重新设计硬件架构。6 月 25 日，高通上调 2029 财年非手机业务收入目标到 400 亿美元，数据中心 AI 基础设施目标超 150 亿美元，汽车业务 100 亿美元，CFO 称到 2029 年手机只占芯片收入三分之一。支撑目标的是骁龙 X2 系列，骁龙 X2 Elite 的 Hexagon NPU 有 80 TOPS 的 AI 算力，配置使其成为「为 AI 设计的笔记本」。6 月 17 日 AWE 大会上高通推出骁龙 START 计划，首批落地智能眼镜，愿景是同一个 AI 追着用户走。苹果跳过 M6 Pro 和 M6 Max，直接押注 2027 年的 AI - focused M7，M 系列路线图改变意味着端侧 AI 需求紧迫。M6 基础版内存带宽预计 200GB/s，M7 目标 240GB/s，统一内存架构适合大模型推理，M5 起 AI 分布在芯片各计算单元。Gurman 认为这是苹果「加速推进」，是芯片设计目标转向。英伟达推出售价 4699 美元的 DGX Spark 桌面设备，定位为「个人 AI 超级计算机」，今年 6 月 GTC 台北上发布 RTX Spark 推向更薄笔记本形态，RTX PRO Blackwell 系列在 Dell、HP、Lenovo 工作站落地。NemoClaw 项目让用户在本地运行 AI 助手，不同产品负责不同场景，使本地 AI 可量产、可定价。
向设备弯腰
硬件追 AI，模型也适应硬件。Google DeepMind 发布 Gemma 4 开放模型家族，参数规格构成从手机到个人电脑产品线。小模型 E2B 和 E4B 低内存需求可在普通设备运行，12B 模型支持多模态输入，26B - A4B 特定内存下有速度表现。Google AI Edge 团队展示部署方法，说明端侧模型硬件门槛降低。阿里 Qwen3.6 让大模型对本地友好，Qwen3.6 - 27B 被评为 2026 年最佳开源 agentic coding 模型，开发者搭建本地方案，其策略是优化架构塞进本地硬件边界。面壁智能 MiniCPM 系列为手机和边缘设备设计，MiniCPM - V 4.6 参数小但多模态表现好，MiniCPM5 - 1B 扩展目标用户，论文评价其是迈向边缘设备部署 GPT - 4V 级能力关键一步。这些模型证明端侧 AI 是独立品类且快速成熟。
代价？不再是订阅费那么简单
端侧 AI 未来光明但有成本。本地 AI 虽省订阅费，但有硬件溢价，如 M5 Max 内存差价大，未来买电脑要考虑能跑的模型大小。端侧推理功耗墙难突破，骁龙 X2 Elite 满负荷体验差，英伟达 DGX Spark 需要主动散热，未来「能跑大模型」和「续航不崩」难兼顾。厂商通过产品和本地模型绑定建立壁垒，如苹果、Windows、Google、英伟达等。端侧模型更新慢，依赖多方面条件。本地 AI 有隐私问题，权限管理复杂度影响消费者。AI 使用成本从订阅费变为硬件溢价等。
所以，2028 年消费者可能真正得到什么
综合因素可分层预测。高端电脑本地运行强功能模型成常态，本地应用成日常工具，手机端多模态助手增强。高端创作者等倾向部署本地 AI。AI PC、Mac 和本地 AI 盒子形成硬件分层，购机关注能跑的模型。长远看，接近 GPT - 5 或 Claude 4 水平模型可能在高端设备可用，取决于多方面因素。本地多模态实时助手部分设备可达「日常可用」，但与云端有差距。普通设备完整运行 Mythos 本体短期内不可能，本地 AI 全面等价云端旗舰 2028 年大概率做不到。端侧 AI 不是「会不会来」问题，而是找平衡点，其时代已不远。
