英特尔于2024年推出的新一代AI加速器Gaudi 3，目前正以三种硬件形态进入市场。这款产品包含OAM模块HL-325L、多卡基板HLB-325以及PCIe加速卡HL-338，但行业对其市场反响相对平淡。在已公开的合作案例中，仅有IBM宣布将该芯片部署至其云计算平台。
戴尔科技近日宣布，其PowerEdge XE7740服务器成为首款集成Gaudi 3 PCIe加速卡的商业化产品。这款4U双路至强6"Granite Rapids-SP"服务器平台，现已将HL-338加速卡纳入可选配置列表。该配置使企业用户能够直接获取预装AI加速能力的服务器解决方案。
在硬件规格方面，HL-338加速卡通过功耗优化实现了600W的TDP控制，较HL-325L的900W功耗降低三分之一。尽管如此，其核心性能参数保持稳定，仍配备128GB HBM2E高带宽内存，内存带宽维持3.7TB/s不变。这种设计在保证计算性能的同时，有效提升了能源使用效率。
系统集成层面，XE7740服务器展现出强大的扩展能力。单台设备可安装8张双宽规格的HL-338加速卡，并通过选配两组四路桥接器组建扩展单元。这种架构设计使单机架的AI计算密度显著提升，同时确保整体功耗不超过10kW的风冷散热阈值，为现有数据中心设施的升级提供了可行方案。
据技术文档显示，搭载HL-338的XE7740服务器在AI模型训练和推理场景中表现突出。其硬件配置特别适合需要大规模参数调整的微调任务，以及要求低延迟响应的实时推理应用。戴尔工程师通过优化散热设计和电源分配，成功在标准机架空间内实现了计算性能与能耗的平衡。
