news 2026/8/7 10:40:39

NVMe到CXL:各代存储的核心技术突破梳理

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
NVMe到CXL:各代存储的核心技术突破梳理
时间范围里程碑事件/硬件代际突破原因与核心驱动力关键技术/架构关键团队/公司
2000-2005SATA HDD 普及 (SATA 1.0/1.5Gbps)替代并行ATA (PATA),解决线缆杂乱、速度瓶颈和热插拔支持问题。串行ATA接口、NCQ(原生指令排序)、热插拔。英特尔(牵头制定SATA标准)、希捷西部数据等硬盘厂商。
2006-2010NAND Flash SSD 商用化起步解决HDD机械寻道的速度瓶颈,满足数据中心和高端PC对低延迟、高IOPS的需求。SLC/MLC NAND闪存、SATA接口SSD控制器、FTL(闪存转换层)算法。三星(率先大规模量产)、英特尔(与美光合资IMFT)、SanDisk等。
2011-2015PCIe NVMe SSD 出现SATA接口(AHCI协议)成为SSD性能瓶颈,需更高带宽和更低延迟的接口与协议。PCIe接口、NVMe协议(专为闪存设计)、多队列并行处理。英特尔(推动NVMe标准制定并推出首款消费级产品)、三星(推出首款NVMe SSD950 PRO)。
2016-20203D NAND 与 QLC 技术成熟2D平面NAND微缩遇到物理极限和成本问题,需在单位面积内堆叠更多存储单元以提升容量、降低成本。3D NAND堆叠技术(从32层到100+层)、QLC(4bit/cell)颗粒。三星铠侠/西部数据美光SK海力士
2021-2025CXL 互连与存算一体探索传统以CPU为中心的“内存墙”问题日益严重,需要更高效的内存扩展和异构计算内存池。CXL(Compute Express Link)互连协议、近存计算(PIM)、存内计算(CIM)原型。英特尔(主导CXL标准)、AMD英伟达三星美光等芯片与存储厂商。
持续演进存储介质创新 (如 SCM)填补DRAM与NAND Flash之间的性能/成本鸿沟,寻求兼具非易失性、高速度、高耐用性的新型介质。相变存储器(PCM)、磁阻存储器(MRAM)、阻变存储器(ReRAM)等。英特尔(推出Optane持久内存)、美光等。

关键突破原因与技术关联解析:

接口与协议的革命 (SATA -> NVMe)

存储性能的飞跃首先源于接口带宽和协议效率的提升。SATA接口及其配套的AHCI协议是为高延迟的机械硬盘设计的,其单队列命令模型无法发挥NAND闪存的并行优势。NVMe协议基于PCIe高速总线,支持深度多队列(如64K队列,每队列64K命令),极大降低了协议开销和访问延迟,使SSD性能得到彻底释放。

介质与结构的革命 (2D NAND -> 3D NAND)

当半导体工艺制程微缩到十几纳米时,2D NAND的电荷干扰和可靠性问题变得不可接受。3D NAND通过垂直堆叠存储单元,在不依赖更先进制程的情况下大幅提升存储密度和可靠性,是2016年起容量成本下降的核心。QLC技术则通过在每个存储单元中存放更多比特(4bit)来进一步提升密度,尽管以牺牲部分性能和寿命为代价。

系统架构的革命 (CXL与存算一体/分离)

随着GPU、CPU核心数激增和AI等数据密集型工作负载普及,数据在CPU、内存、GPU存储间的搬运成为主要瓶颈(即“内存墙”)。

  1. CXL在PCIe物理层上建立了缓存一致性的内存语义互联,允许CPU、GPU、FPGA等加速器以及内存、存储池高效共享数据,是迈向异构计算和分解式架构的关键一步。
  2. 缓存一致性实现差异:虽然CXL标准定义了缓存一致性的基本框架,但各大厂商在实际实现上存在差异:主要体现在:一致性协议(目录vs探听)、缓存状态管理、延迟优化策略、扩展性设计等方面。虽然都遵循CXL标准的基本语义,但具体实现架构和性能特征各不相同。
    1. 英特尔 (Intel):在CXL 1.1/2.0中采用基于目录的缓存一致性协议,通过Home Agent管理缓存状态,支持多级缓存层次。
    2. AMD:在EPYC平台中采用基于探听的缓存一致性方案,通过Infinity Fabric互联,优化了多路处理器间的缓存同步。
    3. 英伟达 (NVIDIA):在Grace Hopper超级芯片中采用NVLink-C2C一致性互联,通过硬件一致性代理实现CPU与GPU间的缓存同步。
    4. ARM:通过CMN(Coherent Mesh Network)互连和CHI(Coherent Hub Interface)协议,支持多核多簇间的缓存一致性。
    5. 华为:在鲲鹏处理器中采用自研的一致性互联总线,支持多路处理器间的缓存一致性扩展。

存算分离

是当前云原生和分布式系统的主流架构范式,它将计算资源与存储资源解耦,通过高速网络(如RDMA、NVMe-oF)连接,实现存储资源的独立扩展、弹性伸缩和统一管理,典型代表如云存储服务、分布式文件系统和对象存储。在这种架构下,All-to-All(全对全)通信模式成为关键挑战,它要求所有计算节点之间进行大规模数据交换,对网络带宽、延迟和拓扑结构提出了极高要求,是驱动高速互连技术(如InfiniBand、RoCE)发展的重要场景。

存储虚拟化与映射技术

在存算分离架构中,存储虚拟化技术通过逻辑卷管理、存储池化和地址映射,将物理存储资源抽象为统一的逻辑存储空间。这包括:

  • 数据分布与负载均衡:通过映射算法实现数据在多个存储节点间的智能分布。
  • 存储虚拟化层:提供统一的存储接口和管理平面;
  • 逻辑地址映射:将应用访问的逻辑地址映射到物理存储位置;
关键技术路径
  • 高速网络互连技术:RDMA(远程直接内存访问)技术绕过操作系统内核,实现计算节点与存储节点间的超低延迟数据传输;NVMe-oF(NVMe over Fabrics)将NVMe协议扩展到网络,支持在以太网、InfiniBand、光纤通道等网络上访问远程NVMe存储设备。
  • 安全与多租户隔离:在共享存储环境中确保数据安全性和租户隔离,包括加密存储、访问控制、配额管理、QoS保障等技术。
  • 数据分层与缓存策略:通过智能数据分层(热数据放高速存储、冷数据放低成本存储)和多级缓存(客户端缓存、边缘缓存、中心缓存)优化数据访问性能。
  • 元数据管理与命名空间:高效的元数据服务是存算分离架构的核心,需要支持海量文件的快速查找和定位,典型方案包括分布式元数据集群、分层命名空间等。
  • 数据一致性协议:在分布式存储系统中,确保多副本数据一致性的关键技术,如Paxos、Raft等分布式共识算法,以及对象存储中的最终一致性模型。
  • 存储虚拟化与资源池化:通过软件定义存储(SDS)技术将物理存储资源抽象为统一的存储池,支持动态分配、弹性伸缩和统一管理,典型技术包括Ceph、vSAN、OpenStack Cinder等。
主流存算分离产品

分布式数据库与大数据平台

  • Snowflake:完全基于云架构的存算分离设计,支持多云计算,按需扩展计算资源,存储层独立计费。
  • 阿里云 MaxCompute:大数据计算服务,存储(OSS/Pangu)与计算资源独立伸缩。
  • AWS Redshift Spectrum:允许直接查询 S3 中的数据,计算节点与存储层分离。
  • Google BigQuery:Serverless 数据仓库,存储与计算资源自动解耦,按查询量计费。

开源解决方案

  • PolarDB(阿里云):共享存储架构,计算节点与分布式存储(PolarStore)分离。
  • Azure SQL Database:弹性池模式实现存储与计算资源独立调配。
  • AWS Aurora:存储层基于S3,计算节点无状态化,支持快速扩缩容。

云原生数据库

  • StarRocks:支持存算分离架构的分析型数据库,通过远程存储(如HDFS)分离数据与计算节点。
  • Delta Lake:基于数据湖的存算分离设计,兼容Spark计算层,存储可托管在云对象存储中。
  • Apache Iceberg:表格式框架,支持与计算引擎(如Spark、Flink)解耦,存储可对接HDFS或对象存储。
  • 对象存储与计算集成:1AWS S3 + Athena:S3 作为存储层,Athena 提供无服务器计算能力2Azure Blob Storage + Synapse:Blob 存储数据,Synapse 按需分配计算资源。

选型参考因素

  • 生态兼容性:开源方案(Iceberg)更适合混合云或多引擎协作场景。
  • 性能需求:高频分析场景需选择低延迟产品(如Snowflake、Redshift)。
  • 成本模型:按查询计费(BigQuery)与按资源预留(Redshift)差异显著。

存算一体(包括近存计算PIM和存内计算CIM)

试图将部分计算功能直接嵌入存储单元或控制器,从根本上减少数据搬运,是面向未来的探索性方向。

起源与概念

存算一体(Computing-in-Memory, CIM)的概念最早可追溯至上世纪70年代,但真正的复兴与研究热潮始于2010年代后期,由AI算力需求爆炸和“内存墙”问题加剧所驱动。其核心思想是打破“冯·诺依曼架构”中计算与存储分离的瓶颈。

关键技术路径

  1. 芯片架构与互联:需要重新设计内存控制器、数据通路、指令集以及软件栈(编译器、驱动)来支持存算一体操作。
  2. 存内计算 (Computing-in-Memory, CIM):利用存储单元本身的物理特性(如电阻、电容)直接进行模拟计算,尤适用于向量矩阵乘法,是神经网络计算的理想硬件。关键技术包括基于ReRAM、PCM、MRAM等新型非易失存储器的模拟存内计算架构。
  3. 近存计算 (Processing-in-Memory, PIM):将计算单元(如专用处理器或可编程逻辑)放置在存储介质(如DRAM或HBM)附近或同一封装内,显著减少数据搬运距离。代表技术有HBM-PIM、GDDR6-AiM等。

存算一体主要厂商与产品

  1. 初创公司:如Mythic(基于模拟存内计算的AI推理芯片)、Syntiant(超低功耗边缘AI芯片)等。
  2. 英特尔 (Intel):在其Loihi神经拟态芯片中探索了存算一体概念,并持续研究基于新型存储器的计算架构。Loihi 第一代:2017年9月推出,Loihi 第二代:2021年9月
  3. 美光 (Micron):与2020年起与学术界(如普渡大学)及产业界合作,基于新型存储器(如STT-MRAM)开发存内计算原型,但未明确商业化产品时间。
  4. SK海力士 (SK Hynix):开发了GDDR6-AiM解决方案2022年2月发布,将计算功能集成到GDDR6内存中,专为边缘AI推理加速设计。
  5. 三星 (Samsung)HBM-PIM (Aquabolt-XL):2021年2月推出,在HBM2内存中集成AI计算单元,面向数据中心AI负载;GDDR6-AiM:2022年1月发布,类似SK海力士方案,通过修改GDDR6内存控制器支持存内计算。

2026年及未来前景

存算一体在2026年及之后依然被业界高度看好,尤其是在边缘AI、数据中心AI推理、物联网等对能效和延迟要求极高的场景。预计未来几年,PIM将率先在特定领域(如HPC、AI加速)实现商业化落地,而全模拟CIM的大规模应用仍需更长时间。研发和生产将继续,但大规模普及取决于成本下降和软件生态的完善。其发展面临制造成本高、生态不成熟、编程模型复杂等挑战。

垂直整合与生态驱动

存储硬件的升级并非孤立事件,例如,特斯拉在其FSD自动驾驶硬件迭代中,从HW2.5的英伟达Drive PX2到HW3.0的自研FSD芯片,不仅提升了算力,也对高带宽、低延迟的车载存储子系统(如LPDDR内存和高速闪存)提出了定制化需求,推动了专用存储解决方案的发展。

车载存储子系统头部厂商与市场

  1. LPDDR内存市场
    1. 美光 (Micron):市场份额约20%-25%,在汽车级LPDDR产品线上有深厚积累,为特斯拉、英伟达等提供车规级内存解决方案。
    2. SK海力士 (SK Hynix):市场份额约30%-35%,是三星的主要竞争对手,在LPDDR5和下一代LPDDR6技术研发上投入巨大。
    3. 三星 (Samsung):全球最大的DRAM供应商,在LPDDR领域占据主导地位,市场份额约40%-45%。其LPDDR5/LPDDR5X产品在高端智能手机和车载系统中广泛应用。
  2. 车载高速闪存市场
    1. SK海力士 (SK Hynix):市场份额约10%-15%,正在加速布局车载存储市场。
    2. 美光 (Micron):市场份额约15%,专注于工业级和汽车级3D NAND产品,在自动驾驶数据记录存储领域有优势。
    3. 铠侠/西部数据 (Kioxia/Western Digital):合计市场份额约30%,提供车规级eMMC和UFS解决方案,满足汽车高温、高可靠性要求。
    4. 三星 (Samsung):在NAND闪存市场占有率约35%,其UFS(通用闪存存储)和eMMC产品在车载信息娱乐系统和ADAS存储中广泛应用。
    5. 市场特点
      • 高壁垒:车规级认证(AEC-Q100)要求严格,认证周期长(通常2-3年)。
      • 长生命周期:汽车产品生命周期长达10-15年,要求存储器件供货稳定。
      • 定制化需求:特斯拉等车企会与存储厂商深度合作,定制符合特定功耗、性能和可靠性要求的存储方案。
      • 增长驱动:自动驾驶等级提升(L2→L3/L4)、车载信息娱乐系统复杂化、OTA更新频率增加,推动车载存储容量和性能需求持续增长。

数据中心存储生态

同样,VMware在虚拟硬件版本迭代中持续增加对NVMe、vTPM(虚拟可信平台模块,依赖安全存储)等新存储和安全特性的支持,驱动了数据中心存储生态的演进。

以下是全球规模最大、最具影响力的六个数据中心,涵盖其基本信息、存储架构、性能指标及技术特点:

数据中心名称、最大股东与所在地核心存储架构数据吞吐量及关键技术主要客户及安全与冷却技术

1. 中国电信内蒙古信息园

最大股东:中国电信集团

所在地:内蒙古呼和浩特

分布式对象存储+全闪存阵列

  • 采用Ceph分布式存储架构
  • 华为OceanStor全闪存阵列
  • 软件定义存储(SDS)技术

总吞吐:EB级存储容量,PB/日级数据处理

关键技术:

  • 100G/400G高速网络互联
  • NVMe-oF over RoCEv2
  • 智能数据分层技术

主要客户:政府云、金融行业、互联网企业

简介:亚洲最大云计算数据中心之一,国家算力枢纽节点

安全特性:

  • 三级等保+金融级安全认证
  • 量子加密通信试点
  • 全链路数据加密

液冷技术:冷板式液冷+自然冷却,PUE<1.2

2. Switch SUPERNAP (Las Vegas)

最大股东:Switch公司

所在地:美国内华达州拉斯维加斯

超融合架构+NVMe全闪存

  • 戴尔VxRail超融合系统
  • Pure Storage FlashArray
  • 软件定义网络(SDN)

总吞吐:100+PB存储,支持百万级IOPS

关键技术:

  • InfiniBand EDR/HDR网络
  • NVMe over Fabrics
  • AI驱动的存储优化

主要客户:财富100强企业、政府机构、金融科技

简介:全球最大Colocation数据中心运营商之一

安全特性:

  • Tier IV设计标准
  • 生物识别+多重物理安防
  • SOC 2 Type II认证

液冷技术:行级冷却+间接蒸发冷却,PUE~1.18

3. 谷歌The Dalles数据中心

最大股东:Alphabet (Google母公司)

所在地:美国俄勒冈州达尔斯

Colossus文件系统+定制硬件

  • 分布式Colossus文件系统
  • 谷歌自研TPU存储架构
  • Spanner分布式数据库

总吞吐:EB级,支持全球Google服务

关键技术:

  • Jupiter数据中心网络
  • 定制ASIC存储处理器
  • 机器学习存储调度

主要客户:Google Cloud用户、YouTube、Gmail等

简介:谷歌最早且最大的数据中心之一,支持全球服务

安全特性:

  • Titan安全芯片硬件根信任
  • BeyondCorp零信任架构
  • 自动化安全响应系统

液冷技术:海水冷却+高效热交换,100%可再生能源

4. 微软都柏林数据中心

最大股东:微软公司

所在地:爱尔兰都柏林

Azure Stack HCI+Project Silica

  • Azure超融合基础设施
  • 石英玻璃存储(Project Silica)
  • Azure Data Lake Storage

总吞吐:支持欧洲Azure区域,PB级日处理

关键技术:

  • Azure Accelerated Networking
  • SONIC开源网络操作系统
  • 智能数据压缩技术

主要客户:欧洲企业、政府、Azure云用户

简介:微软在欧洲的关键枢纽,符合GDPR标准

安全特性:

  • Azure Security Center集成
  • 硬件安全模块(HSM)
  • 多因素身份验证

液冷技术:浸没式液冷试点,室外空气冷却,PUE<1.15

5. 亚马逊AWS US-East-1

最大股东:亚马逊公司

所在地:美国弗吉尼亚州

S3对象存储+EBS块存储

  • Amazon S3 (Simple Storage Service)
  • EBS gp3/io2块存储卷
  • Aurora数据库存储引擎

总吞吐:全球最大S3存储集群,EB级容量

关键技术:

  • Nitro系统硬件虚拟化
  • SRD可扩展可靠数据报
  • 智能分层存储(S3 Glacier)

主要客户:Netflix、NASA、纳斯达克等

简介:AWS最早且最大的区域,互联网流量枢纽

安全特性:

  • KMS密钥管理服务
  • IAM精细权限控制
  • GuardDuty威胁检测

液冷技术:蒸发冷却+自然冷却,100%可再生能源目标

6. 字节跳动怀来数据中心

最大股东:字节跳动

所在地:中国河北怀来

自研分布式存储+全闪存集群

  • 字节自研ABFS存储系统
  • 高性能全闪存存储池
  • AI训练数据存储架构

总吞吐:支持抖音/TikTok全球视频流

关键技术:

  • 自研RDMA高速网络
  • 智能视频编码存储
  • 机器学习数据管道

主要客户:抖音、TikTok、飞书、火山引擎

简介:支持字节跳动全球业务的核心数据中心

安全特性:

  • 零信任安全架构
  • 全链路数据加密
  • AI驱动的异常检测

液冷技术:冷板式液冷+余热回收,PUE<1.25

表格说明:

  1. 数据来源:基于公开财报、技术白皮书、行业报告及官方披露信息整理,部分技术细节因商业机密未完全公开。
  2. 技术趋势:现代超大规模数据中心普遍采用全闪存存储、软件定义架构、高速网络互联(100G+)和先进冷却技术。
  3. 安全特性:包括物理安全、网络安全、数据加密、访问控制等多层防护体系,多数通过国际/国内权威认证。
  4. 液冷技术:从传统风冷向液冷演进,包括冷板式、浸没式、间接蒸发冷却等多种方案,PUE(能效比)普遍低于1.3。

参考来源

  • 开发岗核心优化工作流解析
  • 突破硬件限制:老旧Mac升级完整实战指南
  • OpenCore Legacy Patcher技术揭秘:如何突破苹果硬件限HW3.0的自研FSD芯片新方案
  • 从硬件版本号演变看VMware虚拟化技术发展史
  • 2025年的软件技术热点有哪些?
  • 特斯拉FSD硬件进化史:从Mobileye到自研芯片,这些关键升级你知道吗?
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/7 10:38:04

从零搭建本地智能家居:虚拟机安装Ubuntu Server全攻略

1. 从零开始&#xff1a;为什么我选择自己动手搭建智能家居 几年前&#xff0c;我还在用手机App控制几个孤零零的智能灯泡&#xff0c;觉得这就是“智能”了。直到有一次出差&#xff0c;家里的温湿度传感器因为网络问题离线&#xff0c;导致我预设的加湿场景完全失效&#xff…

作者头像 李华
网站建设 2026/8/7 10:36:50

PhotoMath Pro:对着数学题拍张照,答案和解题步骤全有了

辅导孩子作业时&#xff0c;一道方程算半天&#xff0c;最后发现第一步就错了&#xff1b;自学高数&#xff0c;课本上的步骤跳得太多&#xff0c;根本看不懂怎么推导的&#xff1b;考试前想快速验证自己的解题过程&#xff0c;身边却找不到人对答案——如果你也经历过这些&quo…

作者头像 李华
网站建设 2026/8/7 10:36:15

建筑工地安全巡检怎么做AR化

建筑工地安全巡检的AR化&#xff0c;核心在于将数字化的巡检标准、3D设备模型与实时业务数据&#xff0c;通过空间计算技术叠加到物理现场&#xff0c;实现“所见即所得”的信息交互与流程固化。具体实施路径包括&#xff1a;利用SLAM技术实现虚实精准对齐&#xff0c;通过AR终…

作者头像 李华
网站建设 2026/8/7 10:35:27

Coze 搭建【软件测试助手 Skill】可行分析及操作实践

目录 一、Coze 搭建【软件测试助手 Skill】可行&#xff0c;但只能定位为「辅助提效工具」&#xff0c;绝对不能替代真实测试执行、线上验证、风险决策 &#xff08;1&#xff09;能做什么&#xff08;优势、可行落地范围&#xff09; &#xff08;2&#xff09;先天不足 &am…

作者头像 李华