来自韩国的一家叫Panmnesia的公司在2023年闪存峰会(FMS)上展示了池化的CXL内存系统。
在现场演示中,该系统运行了Meta推荐应用程序,结果发现,其性能比基于RDMA的系统快了三倍以上。
这背后的CXL技术是与位于大田的韩国科学技术研究院(KAIST)合作开发的。Panmnesia已经设计了一个全面的CXL系统框架,包括CXL CPU、Switch和Memory扩展模块。该框架可构建高达6TB的基于DIMM的CXL内存池。
Panmnesia的业务模式是要把它的CXL硬件知识产权和软件知识产权产品卖给CXL系统开发商和制造商。
无独有偶,这次闪存峰会(FMS)上,三星和MemVerge展示了2TB的内存池方案,而Panmnesia的方案所支持的容量高达6TB,是前者的三倍。
Panmnesia框架系统机箱里,支持两个CXL CPU模块(如上图所示),三个CXL交换机模块,六个1TB内存模块或CXL端点控制器,组成了一个DIMM内存池。
在软件方面,该系统运行在Linux上,带有CXL硬件设备驱动程序,虚拟机子系统,还有面向CXL优化的用户应用程序。有趣的是,虚拟机软件可以在内存空间里创建了一个无CPU的NUMA节点。
Panmnesia的一个视频展示了CXL框架系统在运行类似Meta推荐系统时的性能表现。与之对比的是一套基于RDMA技术的替代方案,这套方案中的服务器没有添加额外的内存。
视频从加载用户和项目数据开始,随后便使用机器学习模型来推荐电影,相比之下,Panmnesia的方案比基于RDMA的方案,完成推荐任务的速度快了3.32倍。
Panmnesia系统的另一个优点是模块化设计,内存模块里的DIMM可以随时替换和升级,支持使用更大容量的DIMM来扩展内存容量。