概述
联想问天 WA7780 G3是一款专为AI大模型训练所打造的服务器。随着通用人工智能时代到来,大模型训练的参数量突破万亿级关卡,AI算力已成为企业训练开发使用人工智能的硬门槛。联想问天WA7780G3正是为打破AI算力供给困境而来,为通用大模型训练提供强劲的算力支撑。
特性
澎湃算力
联想问天WA7780 G3 AI大模型训练服务器基于第四代和五代英特尔®至强®可扩展处理器,加载了8颗NVIDIA HGX™ NVLink® GPU。
超强架构
联想问天WA7780 G3 大模型训练GPU服务器, 为了满足AI超大模型训练场景下,GPU服务器间高速数据通信的需求,支持IB,RoCE等多种对外网络连接方案。最高可以支持8张RDMA 高速网卡,提供3.2Tb/s聚合带宽。充分满足了超大模型训练并行计算时,跨节点的通信需求。同时,在本地存储的设计上,采用了GPU Direct Storage (GDS)技术。通过GDS技术,GPU与NVMe实现了快速低延迟互联,能够有效提高训练数据载入的速度,提升大模型训练的性能。
节能高效
联想问天WA7780 G3 AI大模型训练服务器,在产品设计中采用了三重独立风道设计,针对不同部件的散热特征,进行了系统性的优化,有效降低了由风扇带来的散热功耗。相比同级别产品,联想问天WA7780G3功耗降低约10%。
规格
外形
7U机架
性能
2.4 petaFLOPS FP8
处理器
最多2个第四代或五代英特尔至强可扩展处理器,,最多可达64个核心数与350W TDP
芯片组
Intel C741 "Emmitsburg" 芯片组, 平台代号 "Eagle Stream"
内存
32 DDR5 DIMM,每个CPU支持8个通道,1DPC最高频率为4800MHz;2DPC最高频率为4400MHz
存储
8 x 前面板可热插拔 2.5 英寸存储设备插槽
- PCIe direct :8 x NVMe SSD
2 x 后面板可热插拔 2.5 英寸存储设备插槽
-CPU2 direct: 2 x NVMe/SATA(PCH)/SAS* SSD(* SAS 支持需搭配选配 HBA/RAID 卡)
2 x 内置M.2 SSD
NVIDIA HGX 8-GPU NVLink
I/O扩展
SKU1 12+1 PCIe Slo(单上行):
- 8 x PCIe(Gen5x16,LP,PCIe direct)
- 2 x PCIe(Gen5 x16 link FH/HL,CPU1 and CPU2 direct)
- 2 x PCIe(Gen5 x8 link FH/HL,CPU1 and CPU2 direct)
- 1 x PCIe(Gen4 x8 HH/HL,CPU2 direct)供 RAID 卡
SKU2 10+1 PCIe Slot(双上行):
- 8 x PCIe(Gen5x16,LP,PCIe switch direct)
- 2 x PCIe(Gen5 x16 link FH/HL,CPU1 and CPU2 direct)
- 1 x PCIe(Gen4 x8 HH/HL,CPU2 direct)供 RAID 卡
散热
风冷 ,系统风扇: 10 x fans (80*80, 54V) + 6 x fans (60*56, 12V) + 4 x fans(40*56, 12V)
管理网络
集成 2 x 10GbE RJ45 LAN module (Intel-x710 Based-T) + 1 x Mgmt LAN
操作系统支持
Microsoft SUSE Red Hat VMware Ubuntu
电源
3+3 3000W 80 PLUS Tiannium电源(PSU)
运行温度
操作温度:10℃ ~ 35℃
未操作温度:-40℃ ~~ 70℃
未操作湿度:20% ~ 90%
尺寸
885 mm x 447 mm x 306.65 mm 7U
重量
毛重:154kg
净重:99kg