Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。
其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
Dragonfly AI200 是高通的第一款机架级人工智能解决方案,单卡配备 768GB LPDDR5X 内存,支持 PCIe Gen6 纵向扩展、RoCE 横向扩展。
其每个 140kW 液冷 ORv3 机架由 56 卡组成,总内存达 43TB,提供 0.414 PB/s 内存带宽,可在单一机架中运行 10T 级超大模型的推理,提供更低的总持有成本。
