博客

人工智能与大模型

到货啦！搭载 H800 的 8U 机架式双路 GPU 服务器——G8228G3

2023.08.30 43分钟阅读

G8228G3 系列是一款基于 Intel 最新第四代至强可扩展处理器的 8U 双路 Nvlink GPU 服务器，支持8张 SXM5 H800 NVLink GPU，32个 DDR5-4800MHz 内存和 400G 高速网卡，最大支持10个 PCI-E 5.0 扩展插槽，提供2倍于 PCI-E4.0 的性能和带宽，提供24个2.5英寸热插拔硬盘位，其中12个插槽原生支持 PCI-E5.0 协议的 U.2 接口，相较于普通 SSD 可提供更高的 IO 读写能力和更低的延迟，满足高速读写的需求，支持8张最新的通过 NVSwitch 互联的 H800 80GB GPU 加速卡，可用于人工智能、大数据分析、智能医疗等各种并行计算密集型应用，是一款可满足客户全方位需求的全能型 GPU 服务器产品。

PART1

产品特点（Product Features）

各种 AI 工作负载的通用系统

G8228G3 是适用于所有 AI 基础架构（包括分析、训练、推理基础架构）的通用系统。该系统设定了新的计算密度标杆，将 15petaFLOPS 的 AI 性能 (FP16) 装进 8U 尺寸，用一个平台代替所有 AI 工作负载的传统基础架构求。

更快的加速体验

H800 内置 transformer 模型，这是大型语言模型的核心，内置稀疏特征以增强推理性能，80GBHBM3 显存提供 3.35TB/s 的内存带宽。

卓越的数据中心可扩展性

G8228G3 通过集成的8个 PCI-E5.0x16 槽位，可扩展数据中心级高性能、低延时、高带宽的网络连接，最大支持8个 400Gb/s 的高速网卡连接。同时扩展的2个全高 PCIE5.0x16 插槽可扩展DPU智能网卡，此优势是使 G8228G3 成为大型AI集群基础构件的诸多因素之一，也是成为可扩展 AI 基础架构企业蓝图的原因之一。

性能卓越

G8228G3 采用第四代英特尔®至强®可扩展处理器，支持新一代傲腾可持久内存和 SGX 技术，可带来更佳的性能和成本优势。也可以帮助实现更安全可靠的 AI 应用。同时将高性能计算和人工智能融合，优化和加速异构化工作负载，加速获得洞察力。

PART2

产品参数（Product Parameters）

主机特性
处理器	支持双路英特尔第四代至强可扩展系列处理器，TDP 最高支持 350W
芯片组	Intel C741
内存	采用 Registered DDR5 ECC 内存，最大支持 4800MHz，提供 32 个 DIMM 插槽；最多支持16条英特尔傲腾持久内存300系列
存储	提供多达 24 个热插拔 2.5 英寸驱动器托架默认支持 8 个 NVME U.2 高速硬盘+ 8个 SATA 硬盘，8 个 SATA/SAS/NVME 硬盘（需添加 RAID/HBA 卡支持） 2 个内置 M.2 接口，支持2280、22110
扩展槽	8 个 PCI-E 5.0 x16 半高插槽 2 个 PCI-E 5.0 x16 全高插槽
GPU 卡	HGX H800 8-GPU 80GB HBM3
CPU-GPU 互连	PCI-E Gen 5 x16
GPU-GPU 互连	具有 NVSwitch™GPU-GPU 互连功能的 NVIDIA®NVLink™
电源	3000W（3 + 3）冗余钛金水平（96％+）电源；可升级为 3000W（4 + 4）冗余钛金水平（96％+）电源
键鼠	USB 接口标准键盘、USB 光电鼠标
网络	1 个 1 Gb RJ45 专用管理网口，2 个万兆 RJ45 网络接口
管理	集成 BMC 管理芯片 AST2600，支持 IPMI 2.0、KVM、SOL、Redfish 等功能。
机箱	8U 机架式 355.6 x 437 x843 (H x W x D, mm)
安全模块	可选 TPM/TCM 安全模块，机箱开盖入侵检测
外部设备接口	2 个 USB 3.0接口 1 个 VGA显示接口 1 个 RJ45管理专用网口
运行环境
环境温度	工作环境：10°C～35°C 运输/存储环境：-40°C～60°C
环境温度	工作环境：8%～90%相对湿度运输/存储环境：5%～95%相对湿度
保修	三年质保 7x24 小时在线服务支持上门服务