Alluxio 作为全球领先的AI缓存解决方案供应商， 提供针对 GPU 驱动AI负载的高速缓存。其可扩展架构支持数万个节点，能显著降低存储带宽的消耗。Alluxio在解决AI存储挑战方面的前沿技术在很大程度上推动了大语言模型( LLM )在全球范围内的成功。
“Solidigm 和 Alluxio 联合推出了高效的分布式 AI 缓存方案。通过将 Solidigm 的 D5-P5336 用作读缓存，D7-PS1010 用于 checkpoint 写入，并搭配 Alluxio 的低操作开销解决方案，我们帮助客户实现了大规模 AI 场景下成本和性能的最佳平衡。优化后的方案充分利用了Solidigm D7-PS1010 Gen5 TLC SSD 的写入带宽和 D5-P5336 Gen4 QLC SSD 的读取带宽，同时将 TLC 和 QLC SSD 的写放大系数保持在 1.02。我们希望与 Alluxio 一道持续为客户提供高效、低成本的AI 解决方案。” – Greg Matson，Solidigm 战略规划与营销高级副总裁。
Alluxio DORA 缓存架构的核心优势
DORA(Decentralized Object Repository Architecture 的缩写 )是 Alluxio 的新一代架构。
作为分布式缓存存储系统，DORA 具有低延迟、高吞吐量和节省成本的特点，同时旨在为 AI 工作负载提供高性能的数据访问层。
DORA 利用去中心化存储和元数据管理来提供更高的性能和可用性，以及可插拔的数据安全和治理，从而提高大规模数据访问的可扩展性和管理效率。
DORA 的架构目标：
- 可扩展性：可扩展性是 DORA 的首要目标，旨在支持数百亿个文件，从而满足数据密集型应用（如 AI训练）的需求。
- 高可用性：DORA 的架构设计考虑了高可用性，具有99.99%的正常运行时间，并可以防止在 master 出现单点故障。
- 性能：性能是 DORA 的核心目标，它优先考虑模型训练、模型服务的速度，以及用于 AI 工作负载的GPU 利用率。
DORA 架构包含四个重要组件：服务注册( service registry )、调度器( scheduler )、客户端( client )和 worker。这些组件共同管理服务发现、分布式负载调度和数据存储等任务，同时维持整个系统的最佳性能。
Solidigm测试实验结果与分析
1.页数据存储能够利用 SSD 的最大性能，并保持最佳的写放大系数（WAF）和耐用性
DORA 使用经严格测试的页存储模块进行缓存存储，从而可以更精细地缓存大文件上的小至中等规模的读取请求。这种可靠的页存储技术已在 Meta、Uber 和 TikTok 等应用中得到验证。DORA 的细粒度缓存使得读放大情况降低到原先的1/150，并使得文件随机读性能提高了 15 倍。
页数据存储通过日志文件系统，将数据分成两级目录，包含固定大小的大文件块。所有写操作都附加到这些文件块中，而当其中的对象文件被标记为删除时，只有在不需要这些文件时才会删除。这种设计确保了即使在使用 PCIe 5.0 TLC SSD 时也能实现最佳性能， 同时也保持 SSD 的写放大系数（WAF）为 1，从而最大限度提高 SSD 的耐用性。
例如， 当使用 QLC SSD 进行 Alluxio 读缓存时，存储引擎会充分利用 QLC 的耐用性，不会导致任何内部写放大或垃圾回收写放大，从而确保 QLC NVMe SSD 的高效运行。
2.去中心化的元数据存储
DORA 将元数据传递给每个 worker，确保元数据始终可访问且可用。为了优化元数据访问，DORA 对元数据条目使用两级缓存系统。第一级缓存是内存缓存，它将元数据条目存储在内存中。此缓存具有可配置的最大容量和有效时间 ( TTL ) 设置，可设置过期时限。第二级缓存是持久化缓存，通过RocksDB 将元数据条目存储在磁盘上。持久化缓存具有无限容量，具体取决于可用磁盘空间，并且还使用基于 TTL 的缓存驱逐策略，防止主动同步或主动失效。存储的元数据类似页存储，也是基于完整的 UFS 路径的哈希值来确定分发到哪个 Dora Worker。
内存和持久化缓存的组合有助于确保元数据能够随时可用且可访问，同时还可以高效利用系统资源。元数据的去中心化避免了在元数据主要由 master 节点来管理的架构中可能出现的瓶颈。由于每个 DORA worker 节点可存储多达 3000 万至 5000 万个文件, 整个系统便可以支持拥有数百亿文件的大规模数据密集型应用。
经 Solidigm 验证， 内存元数据设计与 RocksDB 的组合提供了最佳的元数据存储解决方案。该设计充分利用了 PCIe 4.0 QLC SSD ( 读取 7GB/s，写入 3GB/s ）和 PCIe 5.0 TLC SSD（ 读写均为 14.5GB/s ）的读写性能。此外，RocksDB 通过跳表（ skiplist-based ) 写缓存将许多小的写入合并为较大的2MB 顺序写，这种方式极其高效，有助于将 SSD 写放大系数（WAF）最小化，进一步提升 SSD 的耐用性。
性能测试：Alluxio 搭配 Solidigm™ 的D7-PS1010 和 D5-P5336
测试配置
在最近一项实验中( Solidigm D7-PS1010 和 D5-P5336 SSD，搭配 Intel Gen5 BNC 存储服务器 )，Alluxio 展现其在数据快速摄取以及读性能方面的优势，特别是在 GPU 扩容的情况下。部署 Alluxio 后取得的显著成效：
- 缓存加载效率: Alluxio 缓存引擎在写入 PCIe 5.0 TLC SSD 时，能够有效跑满 UFS QLC 存储的最大读取带宽。
- Fuse 读取测试: Alluxio 的 FUSE 框架几乎跑满单个 PCIe 5.0 SSD 的读取带宽，显示处理 NVMe SSD 缓存命中时的开销极低。
为了能够快速部署，我们设置了一个单节点测试来展示 Alluxio 存储引擎的强大性能。Alluxio 的最大优势在于能够利用主机侧的分布式复制缓存，可随着 GPU 扩展并显著降低南北向存储带宽开销。即使在单节点配置下，Alluxio 也表现出超高的效率，尤其是在搭配高性能 NVMe SSD 时。在此次测试中，我们将缓存配置为使用 PCIe 5.0 TLC 或 PCIe 4.0 QLC，而底层文件存储( UFS )使用了 PCIe 4.0 QLC。
重要结论
1，Alluxio 的缓存加载引擎十分高效，能够跑满 UFS QLC 的最大读取带宽，并将数据摄入到 PCIe 5.0 TLC 缓存 SSD 中。即使 UFS 支持 10GB/s 的读取带宽，Alluxio 也能轻松地跑满 Solidigm D7-PS1010 9.3GB/s 的写入带宽。
2，Alluxio 的页缓存存储引擎基于 XFS 日志文件系统，并使用 Solidigm Alluxio FIO 仿真器进行了严格的使用寿命测试。测试结果表明，无论使用 TLC 还是 QLC SSD，Alluxio 都能实现 1.02 的写放大（ WAF ）。这种接近理想的 WAF=1的效果能让 SSD 的性能和耐用性最大化，为终端用户提供最佳性能。
重要结论FUSE 的读开销极小。当执行 FUSE 读取，在 SSD 缓存上 100%缓存命中并且绕过 DRAM 页缓存时，FUSE 框架几乎可以跑满单个 PCIe 5.0 SSD 的读带宽，速度达到 14.8 GB/s。
对于寻求高效缓存方案的客户来说，Solidigm 的 61.44TB QLC 是理想选择。Alluxio 的存储引擎对于写放大十分友好，作为以读取为主的缓存，其写入量极少，使得 QLC 完美适配其读缓存路径。
鉴于 Alluxio 的高效设计，我们可以根据 213 PB 的顺序写总量 （PBW）来估算 QLC 缓存设备的耐用性，这也意味着 Solidigm 支持写入高达 213PB 的数据。即使在 5 年周期内以 50% 的使用率（已是较高的阈值）计算，QLC 仍能支持 2900 MB/s 的写带宽，几乎达到其最大值。此外，QLC 每块 SSD 可提供高达 6GB/s 的随机读带宽，实现高性价比的 Alluxio AI 缓存系统。
Solidigm SSD 如何为 Alluxio 提供合适的存储
就读缓存而言，Solidigm D5-P5336 61.44TB QLC 提供了卓越的性能和可扩展性。对于 checkpoint 写入而言，PCIe 5.0 D7-PS1010 提供了一流的写性能。
“我们与 Solidigm 团队紧密合作，验证了将 Alluxio 分布式缓存技术与 Solidigm SSD 和 NVMe 驱动联合用于 AI 模型训练工作负载的性能优势。通过这次合作，我们进一步优化了 Alluxio，通过充分发挥 Solidigm 驱动的优势，将大规模 AI 工作负载的 I/O 吞吐量最大化。” Alluxio 工程副总裁杜璿表示，“我们期待与 Solidigm 继续开展这项重要合作，共同为我们的客户提供高性能、高成本效益的解决方案，帮助客户构建、训练和部署大规模 AI 模型。”
Alluxio 和 Solidigm 的合作成果表明，Solidigm TLC 和 QLC SSD 都能显著提升 Alluxio 的服务，同时降低运营成本。此外，Solidigm 还提高了质量和可靠性标准，并由专门的客户服务团队为 Alluxio 提供出色的支持。
