面向推理的GPU算力
双路CPU与最多8张GPU承载大模型预填充、解码和多实例推理。
双路CPU与最多8张GPU承载大模型预填充、解码和多实例推理。
按工作负载组织GPU、网络与本地存储资源。
结合CVALE和WS8000-V组织显存、主机内存与共享闪存。
WS-S5000-M8M采用双路英特尔至强6 6500/6700平台,在4U空间内承载最多8张双宽GPU,以PCIe5.0交换架构组织GPU与高速I/O资源。产品面向AI Token工厂,可与CVALE缓存引擎、WS8000-V KV Cache加速存储组合,构建算力与上下文数据协同的推理基础设施。

承载模型服务与持续推理,组合算力和KV存储资源。
面向文档分析、知识问答与有效前缀复用。
服务工具调用、连续对话和任务上下文恢复。
按模型、租户与业务权限部署本地推理服务。
| 系统形态 | 4U机架式,最多8张双宽GPU |
|---|---|
| 处理器 | 双路英特尔至强 6 6500/6700 系列;单颗最高 350W TDP |
| GPU | 最多 8 张全高全长双宽 GPU;单卡最高 600W TDP,按供电与散热配置选配 |
| 连接架构 | PCIe5.0交换架构;GPU侧x16连接,按工作负载选择CPU、GPU与I/O拓扑 |
| 内存 | 32 个 DDR5 RDIMM/3DS RDIMM 插槽;速率最高 6400MT/s,随处理器与内存配置确定 |
| 本地存储 | 最多12个3.5英寸热插拔盘位(兼容2.5英寸);按背板选配NVMe;可选2个M.2 |
| 扩展与网络 | 支持 PCIe 5.0 扩展与 OCP 3.0 网卡选配;可按节点互联和KV数据通路配置高速网络 |
| 电源 | 4 个 CRPS 热插拔电源模块;2000/2700/3200/3600W 可选,支持 2+2 或 3+1 冗余 |
| 散热 | N+1 冗余热插拔风扇;可选后置风扇模组 |
| 管理 | AST2600 BMC;IPMI 2.0、Redfish、SOL、KVM、虚拟媒介;独立千兆管理口 |
| I/O接口 | 前置 2×USB 3.0、1×VGA;后置串口、2×USB 3.0、VGA、RJ45 管理口 |
| 安全 | 可选 TPM/TCM;机箱入侵检测;BIOS/BMC 双 Flash 冗余 |
| 尺寸 | 448(宽)×175(高)×822(深)mm;含挂耳深 842mm |
| 运行环境 | 工作温度 5℃~35℃;相对湿度 10%~80%,无冷凝 |
| 操作系统 | Ubuntu、Red Hat Enterprise Linux、Windows Server;按 GPU 与驱动选择版本 |