浪潮NF5698G7系列AI服务器是浪潮信息全新一代开放加速计算服务器，符合全球开放计算OCP开放加速器规范OAM v1.1/v1.5，可在6U空间内支持8颗54V开放加速模块（OAM）和2颗Intel®第四代/第五代至强®可扩展处理器（TDP 350W），具有高性能、高扩展性、高能效、多元兼容、生态开放等特点，适用于大模型训练、自然语言处理、语音识别、图像处理、推荐等典型的AI应用场景。
|
型号 NF5698-M7-A0-R0-00 |
|
|
高度 |
6U |
|
GPU |
8颗符合OAMv1.1/v1.5规范的开放加速模块，TDP 700W |
|
处理器 |
2颗Intel®第四代/第五代至强®可扩展处理器,TDP 350W
标配4个，插槽数8个 |
|
内存 |
32条DDR5 DIMMs内存, 速率支持5600MT/s |
|
存储 |
支持24块2.5英寸SSD硬盘，其中支持16块NVMe |
|
M.2 |
2块内置M.2 NVMe/SATA (可选) |
|
PCIe插槽 |
支持10个PCIe 5.0 x16插槽（其中1个PCIe 5.0 x16插槽可替换为2个PCIe 5.0 x8速率的x16槽位） 可选支持Bluefield-3、CX7以及多种类型智能网卡 |
|
RAID支持 |
可选支持RAID 0/1/10/5/50/6/60等, 支持Cache超 级电容保护 |
|
前置I/O |
1个USB 3.0端口, 1个USB 2.0端口, 1个VGA端口 |
|
后置I/O |
2个USB 3.0端口, 1个MicroUSB端口, 1个VGA端口, 1个RJ45管理口 |
|
OCP |
可选支持1张OCP 3.0网卡, 支持NCSI功能 |
|
管理 |
DC-SCM BMC管理模组 |
|
TPM模块 |
TPM 2.0 |
|
风扇模组 |
GPU区域：6个54V N+1冗余热插拔风扇 CPU区域：6个12V N+1冗余热插拔风扇 |
|
电源 |
2块12V 3200W及6块54V 2700W钛金级CRPS电源，支持N+N冗余 |
|
尺寸 |
宽447mm，高263mm，深860mm |
|
重量 |
净重90kg（毛重：125kg） |
|
环境参数 |
工作温度：10℃~35℃; 贮存温度： -40℃~70℃ 工作湿度：10%~80% R.H.; 贮存湿度：10%~93% R.H. |
产品特性
性能
■ 支持8颗符合OAM v1.1和v1.5的开放加速模组(TDP 700W)和2颗Intel®第四代/第五代至强®可扩展处理器 (TDP 350W)
■ 全互联拓扑满足大模型训练张量并行每秒数百GB 通信需求，节点内每颗OAM芯片可实现784GB/s的P2P峰值聚合通信带宽（注：Gaudi3每颗OAM芯片的聚合带宽是1TB/s，Gaudi2是512GB/s）
扩展
■ 支持4.0 Tbps节点间网络带宽，可实现OAM模组:计算IB: 存储IB=8:8:2 的配比 （注：怎么配的？）
■ 支持RDMA网络进行计算和存储通信，满足大模型流水线并行、 数据并行等通信需求
■ 支持Scale-Out直连架构，OAM模组可以通过QSFP模块实现跨节点高速通信
能效
■ 12V和54V电源分离供电设计，支持N+N冗余
■ 精细化分区，智能散热调控，散热性能优化， 风道解耦设计提升20%系统能效比
■ 高功率负载动态匹配，零电源转换损耗
生态
■ 全球开放计算OCP开放加速器规范OAMv1.1 /UBBv1.5
■ 支持PyTorch / TensorFlow / PaddlePaddle等主流AI框架和Megatron / DeepSpeed等开发工具
■ 支持自然语言处理、语音识别、图像处理、推荐等各类AI应用场景
已搭载GPU
Gaudi2
浪潮信息于2023年第三季度推出Gaudi 2服务器NF5698G7。该服务器集成了八颗Habana® Gaudi®2 HL-225B加速器以及双插槽第四代Xeon处理器，并符合OCP OAM和US BIS EAR标准。浪潮信息的Gaudi 2 G7服务器提供了高度可扩展的、深度学习训练和推理性能。
来源 AI时代窗口
