随着人工智能(AI)持续发展,对高性能计算基础设施的需求愈发凸显。外围组件互连 Express(PCIe)5.0 标准在数据传输速度与系统性能方面取得显著进步,同时,Compute Express Link(CXL)2.0 增强了内存共享并降低了延迟,成为 AI 工作负载的重要工具。
明确何时采用 PCIe 5.0、CXL 2.0 或两者兼具的混合交换机,能够优化各类应用中的 AI 系统,实现长期系统的可行性。
PCIe 5.0 互连的理想应用场景
外围组件互连 Express,即 PCIe,是一种高速接口标准,用于连接计算机主板上的各种硬件组件。因其卓越的性能、可扩展性和多功能性,被现代计算系统广泛采用。
其最新一代 PCIe 5.0 旨在以极低延迟处理海量数据传输,是数据密集型应用的上佳之选。它是热门标准,未来市场增长态势强劲。据 Allied Market Research 数据,2020 年全球 PCIe 市场价值为 35.6 亿美元,预计到 2030 年将达 75.8 亿美元,2021 年至 2030 年复合年增长率为 7.6%。这一增长由人工智能及其他数据密集型应用对高速数据传输和低延迟通信的需求增长所推动。以下是非常适合 PCIe 的应用:
机器学习训练:PCIe 5.0 的高带宽可实现存储与 GPU 之间大型数据集的快速传输,加速训练过程,对在更短时间内开发复杂模型至关重要。
高性能计算(HPC):科学模拟和复杂计算得益于 PCIe 5.0 快速移动大量数据的能力,确保高效处理与分析。
实时数据处理:金融交易平台和电信网络等对实时数据分析要求极高的应用,可利用 PCIe 5.0 的速度减少延迟、提升性能。
CXL 2.0 互连的新兴应用场景
Compute Express Link(CXL)是一种开放的行业标准互连,旨在增强 CPU、GPU、内存和其他加速器之间的通信。CXL 旨在满足现代计算工作负载日益增长的需求,提供高速、低延迟通信以及不同计算组件间的高效内存共享。
CXL 2.0 在不同处理单元间共享内存和实现低延迟通信至关重要的场景中表现出色。与 PCIe 一样,CXL 标准的采用正迅速增加。据 IDC 报告,到 2025 年,60% 的新数据中心部署将采用支持 CXL 的设备。这一采用趋势由工作负载的复杂性和规模不断增加所驱动,需要更高效的内存共享和低延迟通信。从 CXL 标准中受益最多的应用和工作负载包括:
内存密集型工作负载:CXL 2.0 允许 CPU、GPU 和其他加速器(如数据处理单元(DPU)和基础设施处理单元(IPU))无缝共享内存资源,是内存数据库和大规模数据分析等应用的理想选择。
AI 推理:对于 AI 推理任务,即部署模型对新数据进行预测,CXL 2.0 的高效内存共享通过减少处理单元间数据移动的开销来提升性能。
云计算:数据中心受益于 CXL 2.0 优化资源利用率和改善服务器间通信的能力,从而提高整体效率并降低成本。
混合交换机的优势
支持 PCIe 5.0 和 CXL 2.0 的混合交换机提供了利用两种标准优势的灵活性。这对需要高速数据传输和高效内存共享的复杂 AI 系统尤其有益。
系统设计人员若需一次性设计所有高性能应用,也可从混合交换机中受益,它能在单一设计中实现各种应用。特别是最先进的混合交换机,可提供高达 2048GB/s 的总带宽和 256 个通道,为任何应用提供前所未有的灵活性。
随着现代工作负载日益复杂,这类混合交换机的需求不断增加。据 Grand View Research 报告,混合交换机市场(包括支持 PCIe 和 CXL 的设备)预计到 2026 年将达 22 亿美元,2021 年至 2026 年复合年增长率为 12.3%。这一增长由数据中心和企业环境中对多功能高性能计算解决方案的需求所推动。以下是可从混合交换机策略中受益的高要求应用:
医疗分析:医疗保健领域的人工智能驱动诊断和预测分析依赖于快速的数据处理和高效的内存利用率。混合交换机可提高这些应用的速度和准确性,改善患者治疗效果。
混合工作负载:混合工作负载共存的环境(如同时支持 HPC 和 AI 推理任务的数据中心)可从混合交换机的多功能性中受益。它们可根据需要动态利用 PCIe 5.0 和 CXL 2.0,优化不同类型应用的性能。
基因组学研究:基因组学需要分析大量数据集以识别模式和突变。混合交换机可通过实现快速数据传输(通过 PCIe 5.0)和处理单元间的高效内存共享(通过 CXL 2.0)来加速这一过程,实现更快、更准确的结果。
为何要强制选择互连?
决定使用 PCIe 5.0、CXL 2.0 还是混合交换机取决于 AI 应用的具体要求。PCIe 5.0 在需要高带宽和低延迟数据传输的场景中表现出色,而 CXL 2.0 则是需要高效内存共享和降低通信延迟的应用的理想选择。混合交换机兼具两者优势,可灵活优化复杂的 AI 系统以适应各种用例。
随着 AI 不断发展演变,利用这些先进技术对于满足下一代应用需求、推动创新和提升各行业性能至关重要。未来的现代系统可能会采用混合方法来支持所有应用需求和变化,消除选择的必要性,避免当今快速变化的应用环境中的限制。
声明:本站所使用的图片文字等素材均来源于互联网共享平台,并不代表本站观点及立场,如有侵权或异议请及时联系我们删除。
Copyright © 2023 全国系统集成行业能力公示平台 | XML地图
主办/支持单位:浙江省计算机信息系统集成行业协会 中国中小企业协会企业能力建设委员会
浙ICP备17050360号-2 |
手机扫码查看