昨晚在一个AI Infra的技术社群里,有人甩了一张截图:DeepSeek官方宣布把昇腾基础组件开源了。底下评论齐刷刷都在问同一句话——"这波到底图什么"。这不是第一次了,过去两年DeepSeek每次有大动作,舆论都会自动分成两派:一派说"格局大,推动国产AI生态",另一派说"无利不起早,肯定有商业算盘"。但说实话,这两派都没说到点子上。
这篇文章不打算炒新闻通稿的冷饭,我想从技术栈、生态卡位、商业逻辑三个层面,把这件事拆开揉碎讲清楚:DeepSeek开源的到底是什么东西?为什么偏偏挑昇腾这个生态下手?以及这一手棋,表面上是给开发者送福利,底下埋的伏笔又在哪。不管你是做模型应用的、搞AI Infra的,还是单纯对国产算力感兴趣的同行,看完应该都能有个清晰的判断。
1. 先看清这次开源的具体内容:不是开放权重,而是一整套运行在昇腾上的底层软件
1.1 “昇腾基础组件”具体指什么:四类核心模块拆解
很多人有个误读,一看"开源"两个字,就以为DeepSeek是把模型权重拿出来了。但权重这东西早就在HuggingFace、ModelScope上挂了大半年了,随便下。这次真正值得关注的,是"让权重能在不同芯片上高效跑起来"的那一层工程代码。
从目前公开的信息和社区讨论来看,这套昇腾基础组件大致涵盖四个层面的东西:
一是模型转换与量化工具。DeepSeek系列模型原生是基于PyTorch训练的,要跑在昇腾NPU上,权重格式必须做转换。这个过程不是简单的格式翻译,中间还牵扯量化——把FP16/FP32的权重压成INT8甚至更低位宽,大幅压缩显存占用和推理延迟。这类工具的价值在于:不仅是DeepSeek自己的模型能用,任何Transformer架构的权重进来,理论上都可以走一遍这套流程,完成从CUDA世界到昇腾世界的"迁移"。
二是推理引擎适配层。行业里跑大模型推理最常用的框架是vLLM、SGLang这类,它们天然是为CUDA生态设计的。昇腾上虽然有对应支撑,但深度和顺手程度一直有差距。DeepSeek如果想在昇腾上做到接近GPU的吞吐和延迟,就必须在推理引擎这一层做大量定制——调度策略、KV Cache管理、连续批处理逻辑,全部要针对昇腾的硬件特性重新适配。
三是通信与并行组件。单卡跑大模型不现实,主流方案都是多卡甚至多机推理。英伟达那边有NCCL作为通信库事实标准,昇腾这边对应的叫HCCL。DeepSeek这次的组件里,大概率包含对多卡通信的上层封装:怎么组拓扑、怎么分割张量、怎么做流水并行,让开发者不用直接面对底层通信细节。这一层做得好不好,直接决定集群规模上去之后性能会不会剧烈滑坡。
四是算子库与融合优化。Transformer里最频繁的注意力机制和前馈网络,在GPU上已经被优化到接近理论峰值,但在昇腾的达·芬奇架构上是另一套玩法——AI Core的指令调度、存储层次都跟CUDA完全不同。通用的PyTorch代码"编译"过去只是能跑,要跑得又快又稳,必须针对昇腾的算子逐个做手工优化和融合。比如把Attention里的QKV变换、Softmax、输出投影融合成一个大算子,减少访存次数。这套优化是最吃经验、最花时间的部分,也是整个组件里含金量最高的一块。
1.2 为什么说这层软件是"卡脖子"级别的基础设施
我平时跟不少做部署的朋友聊天,大家有个共识:大模型能不能在一块芯片上快速落地,硬件规格只占一半,另一半全看软件生态。一张昇腾910B的纸面算力再漂亮,如果算子库覆盖不全、通信效率上不去、量化工具不好用,实际跑起来和英伟达GPU的体验差距可以拉到数倍,甚至十倍以上。这不是硬件不行,是软件跟不上。
用生活化的方式理解:GPU那边是修了二十年、路网四通八达的城市,打车软件、导航、加油站全齐了;昇腾这边更像一座新城,主干道有了,但支路没通,导航数据不全,加油站也没几家。DeepSeek这次开源的组件,相当于一次性把这座城市里"跑Transformer模型"最需要的几条关键路全修好了,还给装了路标。
这套东西的门槛具体体现在三处。第一是架构适配难,昇腾的达·芬奇架构跟CUDA完全不同源,不能靠简单的编译迁移来糊弄,必须吃透底层指令和存储层次。第二是性能调优难,Transformer这种结构的算子如果不做融合,NPU利用率会非常难看,需要对每个算子的计算密度和访存比反复权衡。第三是生态联动难,单机跑通只是第一步,多卡集群场景下通信库的拓扑感知、流水分隔、负载均衡全是深水区。
所以我把这次开源定性为"交底"级别的动作。DeepSeek等于把自己团队在昇腾上调优、踩坑、验证过的全部代码和思路公开了出来。在国产芯片软件生态普遍偏薄弱的当下,这种级别的开源含金量,比单纯发一版模型权重高得不是一个量级。
2. 为什么是现在、为什么是昇腾:时间窗口与生态缺口的交叉点
2.1 DeepSeek算力布局的必然路线:不把鸡蛋放一个篮子里
DeepSeek过去一年在算力上的动作,大家熟悉的主要是三件事:大规模使用GPU做训练、把开源模型挂到多个云平台、以及通过FP8量化、MLA架构等手段持续压推理成本。但有个细节很多人忽略了:DeepSeek其实一直没有把宝押在单一芯片平台上。
原因不复杂——训练DeepSeek-V3这个级别的大模型,需要几千张甚至上万张高端AI芯片连续跑上好几个月。供应链如果只有一条,成本没有谈判空间,风险也高度集中。再加上DeepSeek做的是开源模型,天然得面对一个现实:用户手里不会人人都有英伟达卡,有的是各种国产加速卡、二手卡、边缘设备。开源模型要真正被生态用起来,就必须做到"在哪都能高效跑"。昇腾作为目前国内规模最大、最成体系的非英伟达算力生态,在这个逻辑下是绕不开的必选项。
2.2 昇腾生态的现状:硬件在快速补齐,软件却长期是短板
昇腾近两年的硬件迭代节奏,行业内是有目共睹的。9系列训练卡在算力密度上追得很紧,950系列的测试消息也在社区传了很久。但硬件归硬件,软件生态一直是昇腾最吃亏的地方。对比英伟达CUDA生态从2006年至今将近二十年的积累——庞大的算子库、成熟的通信库、海量的开发者文档、活跃的技术社区——昇腾虽然有CANN这套底层软件栈撑底,但相当长一段时间里,开发者实际体验并不算好。算子覆盖率不够全,报错信息有时晦涩得像天书,文档和社区帖子数量也偏少。尤其是在大模型推理这块,长期缺一个"开箱即用"的高质量方案。
这种局面导致一个结果:昇腾卡本身价格有优势,但企业算总账的时候,省下来的硬件钱经常又填进了工程师的调试工时里。我这里见过不止一个团队,项目评估阶段兴致勃勃选了昇腾,跑了两个月PoC之后默默又换回GPU。原因不是卡不行,是软件配套把人耗垮了。
DeepSeek这种级别的模型厂商亲自下场做昇腾适配组件,恰好补上了生态里最稀缺的那一层:不是官方写教程,而是"真有一个顶级模型团队,在你这硬件上认真跑过、调过、然后开源出来的代码"。这种标杆效应,比昇腾官方发多少篇技术博客都有说服力。
2.3 从"被适配"到"主动适配":一次角色反转
过去AI芯片厂商和模型厂商的关系是"芯片求模型":芯片团队亲自上门,帮模型厂商做转换、做专项优化、甚至派工程师驻场。这次DeepSeek直接自己动手开源组件,等于把角色调转了——模型厂商主动为芯片生态写代码。
这个反转很值得细品。它传递的信号是:DeepSeek已经不满足于当一个"等别人来适配"的模型提供方,而是要亲自把控自己模型在不同硬件上的落地质量。从用户视角看这当然是好事——以后在昇腾上部署DeepSeek模型,不用再从零补算子、调通信。从行业视角看,这更像一种姿态宣示:我对生态有多认真,你们看代码就知道了。
另外,我一直觉得要留意时间点。昇腾950测试的消息几乎和这次开源出现在同一窗口期。上一代硬件上的适配成熟之后,下一代硬件的软件卡位提前布局,这是一套标准的节奏。谁先在新一代芯片上把大模型推理优化到能用、好用,谁就会成为用户默认的选择。DeepSeek这笔时间账,算得相当清楚。
3. "到底图什么":四种可能的动机,逐一拆开对照
3.1 图算力定价权和供应链多样性:最直接、最好理解的一层
先说最直白的动机:钱和卡。DeepSeek的API定价在行业内压得极低,一度被戏称为"价格屠夫"。这种定价策略能长期运转的前提,是推理成本必须持续下降。而推理成本里占比最大的就是算力采购。如果只依赖单一GPU供应渠道,采购方基本没有议价空间;但如果昇腾生态因为这次开源而变得更好用、更容易买到、性价比更高,DeepSeek手里就等于多了一张牌。哪怕是用来跟原供应商谈价格,这张牌都有实际价值。
更深一层是供应链安全。任何一个把核心业务建立在稀缺算力上的公司,迟早都会做多供应商策略。开源组件把昇腾这条备选路径彻底铺平了,等于给自己的算力供给上了份保险。说白了就是一句话:不想被任何一家硬件厂商捏住命门。
3.2 图在AI Infra层建立事实标准:比省钱重要得多的一层
第二个动机,比"多买点便宜卡"深远得多。你看这次开源组件的定位就明白,它瞄准的是大模型推理的中间层——一个目前还没有统一标准的夹层。英伟达那边有TensorRT、有vLLM这类框架,但距离"事实标准"还有距离;国产芯片更是各家自搞一套,互不兼容。
DeepSeek把一套组件开源出来,并且在昇腾生态里跑得又快又稳,接下来会发生什么?越来越多的开发者会默认选用这套组件。一旦"在昇腾上部署DeepSeek就用这套"成为共识,DeepSeek就相当于在AI Infra层拿到了规则制定权。昇腾后续的算子优化方向、接口设计、工具链演进,都会把DeepSeek组件的实现作为重要参考。这种影响力的价值,远不是省点算力成本能比的。
做开源的人对这套打法应该很熟悉。Google开源Kubernetes,图的是容器编排标准的定义权;Meta开源PyTorch和Llama权重,图的是AI生态里的主导地位。DeepSeek这次开源的逻辑完全是一脉相承:用免费代码换生态话语权。
3.3 图生态卡位:防止开源模型在别人主场被边缘化
还有一层可能被忽略的动机,是防御性的。大模型厂商和芯片厂商之间的关系,其实存在微妙博弈。昇腾生态未来如果只重点优化某几个特定模型,那即便DeepSeek的权重再强,在昇腾生态里也可能被边缘化——别人的模型跑得更顺、更快、显存更省,你的模型自然就没有存在感。
DeepSeek主动开源基础组件,某种程度上是一句无声的宣言:"我就在这扎根了,你们谁都绕不开我。"这也能解释为什么它选择直接对外开源,而不是跟昇腾做闭源合作——闭源合作只有两家知道,开源则是把生态地位摆到了整个行业面前。在AI这个极度依赖生态和开发者心智的行业里,这种"在场感"本身就是护城河。
3.4 图商业闭环:开源是入口,不是终点
最后说商业侧的逻辑。DeepSeek目前的商业模式很克制——API价格低,权重全面开放。但这不意味着它不赚钱。当昇腾上的DeepSeek组件成为事实标准之后,企业要做深度定制、性能调优、私有化部署,找谁?要么找DeepSeek团队自己,要么找他们认证的合作伙伴。这就是典型的"开源拿生态,服务拿利润"。
业界对这种模式不陌生。Red Hat靠开源Linux做成了百亿美元级别的企业服务生意;国内不少数据库公司也是靠开源版本引流,企业版收费。DeepSeek从V2到V3再到R1,一路在用开源建立信任、积累用户。这次开源昇腾组件,本质上是同一个策略在不同层面的延伸:以免费代码换生态位,以生态位换商业机会。
3.5 四种动机的综合判断:不是单选题,而是叠加态
如果非要在四种动机里选一个主因,我的判断是:短期看算力,中期看标准,长期看商业闭环。这不是非此即彼的选择题,四层动机其实是叠加的——它们指向同一个结果:DeepSeek想在AI基础设施层拿到更重的话语权。
也有一种声音说,这会不会只是DeepSeek在"作秀",配合国产算力做点面子工程。我不同意这种看法。作秀的人不会把精力投入到算子融合、通信封装这类最脏最累的底层代码上。真正写过这类组件的人都知道,一套能稳定支撑大模型推理的底层软件,是拿几十个工程师半年以上的时间堆出来的,这个投入密度骗不了人。
4. 对开发者、同业和算力产业链的真实影响:到底谁受益最大
4.1 普通开发者的直接红利:昇腾部署从"地狱模式"切到"普通模式"
先给过去在昇腾上跑过模型的朋友回忆一下这段经历:去昇腾社区翻文档,先搞清楚CANN的版本兼容关系;然后对着报错信息一点点补算子;再然后调HCCL通信参数,一调就是一个星期。好不容易跑通了,性能还不一定达标。这套流程里每一步都在消耗工程师的耐心,也消耗项目预算。
现在情况正在发生变化。DeepSeek开源的组件如果按前面拆分的四类模块到位,那么昇腾上部署DeepSeek模型的操作会被压缩成几步:拉取组件、导入权重、跑一个优化脚本、完成。哪怕你部署的不是DeepSeek系模型,只要架构相近,这套组件里的量化工具、算子融合思路、通信调优参数,都是可以直接借鉴复用的。
对中小团队来说这点格外关键。他们往往没有专门的AI Infra工程师,之前想在昇腾上部署模型,省下的硬件钱全填进了踩坑时间。组件开源之后,这笔账终于可以重新算了。从做技术选型的角度看,现在"昇腾+开源组件"的综合成本竞争力,已经可以摆上台面认真比较了。
4.2 对其他大模型厂商的连锁反应:不跟进就会在生态位上掉队
DeepSeek开了这个头之后,压力最大的不是英伟达,而是其他开源模型厂商。原因很朴素:用户对比两家模型时,除了看跑分,还会看"在你这卡上跑得有多快"。如果DeepSeek在昇腾上又快又省显存,而竞品模型跑起来又卡又占内存,用户用脚投票的速度是惊人的。
接下来大概率会看到一种反复出现的局面:多家开源模型厂商争相优化各自模型在国产芯片上的部署表现,并且把部分成果开源出来做技术品牌。这对产业是好事。竞争越激烈,中间件质量越高,所有下游用户最终都会受益。
4.3 对昇腾生态的"软件补课"效应
昇腾生态当前不缺硬件、不缺产能,最缺的是被顶级团队验证过的软件实践。DeepSeek这次开源组件,相当于免费给昇腾上了一堂"顶级模型团队如何做NPU适配"的示范课。昇腾官方团队完全可以提炼这些代码里的共性问题,沉淀进官方工具链,甚至反哺CANN本身。
这里多说一句我在跟踪开源项目时观察到的问题面:代码放出来只是起点,社区治理才是续航的关键。DeepSeek既然做了这件事,后续就需要公布清晰的路由图和治理机制——哪些模块接受外部贡献、License怎么选更有利于生态、与昇腾官方CANN的边界划在哪。如果这些模糊,项目热度会很快凉下来,前面说的生态卡位效果也就无从谈起。
4.4 对更广泛算力产业链的启示
往更大的范围看,这次开源还会产生一个隐性影响:给所有非英伟达算力生态立了一根标杆。之前大家一种常见心态是"国产芯片软件生态差,等官方慢慢补吧",现在DeepSeek用行动证明了一条新路径——与其等芯片厂商自己慢慢磨软件,不如头部模型厂商直接下场把基础设施铺好,再用开源的方式摊薄成本。
这根标杆立起来之后,其他国产芯片厂商也会思考:自己生态里是不是也该有类似组件?是继续自研闭源,还是扶持第三方开源?这两条路的取舍,会直接影响未来两年国产AI算力生态的格局。DeepSeek无意中充当了一个模式开创者的角色。
5. 从跟踪者视角看实操心得与后续观察点
5.1 开源底层组件的隐形成本,往往比想象中大得多
我自己参与过公司内部工具开源的全过程,最大的感触是:把代码推到GitHub上只是开始,后面是一整套持续投入——维护Issue、回复PR、适配新版本、写文档、跑回归测试。尤其是这种跟特定硬件绑定的组件,还得跟着昇腾固件和驱动的版本走,稍微不跟上,用户那边就跑出兼容问题,维护量直接翻倍。
DeepSeek既然开了这个头,后续社区运营和版本迭代的压力是实打实的。这件事做得好,沉淀的是生态领导力;一旦中途维护乏力,反而会消耗品牌信任。所以我判断,DeepSeek内部一定已经配置了专门的团队来长期跟进这套组件,不太可能开源完就撒手不管。
5.2 如果你要读这套源码,建议从这三块入手
我对想研究这套组件的朋友有个实操建议:别按文件顺序从头到尾读,那是最低效的方式。优先看三个部分。
第一个是量化工具的实现。这里能看出DeepSeek在精度和速度之间做的取舍,尤其是对MoE模型那种"少量专家被高频激活"的特点做量化时,如何保护关键参数不被误差伤害。做边缘侧部署的人,在这一块能吃到大补。
第二个是通信并行的封装逻辑。多机部署大部分坑都出在通信上——超时、负载不均、拓扑感知失效。看DeepSeek怎么封装HCCL,等于绕过了一大半前人踩过的坑。
第三个是算子融合模块。这里几乎集结了针对NPU架构最有价值的优化套路:怎么拆计算图、怎么编排指令流水、怎么利用片上缓存。把这部分吃透,等于免费上完一门AI Infra的实战课。
5.3 接下来2到3个月,值得盯住的四个动作
按这个节奏推演,接下来一段时间有几个信号值得持续跟踪。
第一,这套组件是否会向vLLM等主流推理框架的上游仓库合入。如果合入成功,影响力会再放大一个量级,意味着所有用vLLM的用户都能直接在昇腾上获得受益,而不需要单独对接。
第二,昇腾官方是否会围绕这套组件做认证和推荐。一旦进入官方推荐清单,企业级选型的顾虑会大幅下降。
第三,其他开源模型厂商是否跟进,推出针对其他国产加速芯片的类似组件。这个风向一出现,说明DeepSeek的模式开始被全行业采纳。
第四,DeepSeek在企业服务层面是否会推出配套商业化产品,比如基于昇腾的托管推理服务。这是验证整个商业闭环是否成立的关键一步。
这几件事里,任何一件落地,都会让今天讨论的意义变得更加具体。我个人倾向认为,这个方向上的动作不会停,只会越走越快。
最后分享一点我在多个芯片平台间做模型落地这几年最深的感受:模型本身的性能,已经不再是唯一的竞争点。真正拉开差距的,是生态的迁移成本和落地效率。DeepSeek这次开源昇腾基础组件,等于把"落地效率"这件事直接拉到了国产算力的牌桌上。不管最终哪家芯片赢了、哪家模型赢了,动手把基础设施做实的人,一定不会输。如果你也在这个行业里,眼睛别只盯着新闻稿的字面意思,去翻翻代码,看看生态位置的微妙变化,你会得到比大部分评论更有价值的答案。