墨芯 S40AC 计算卡产品简介

概述

墨芯 S40AC 计算卡(S40 Active Cooling)为数据中心的 AI 推理应用而打造。作为通用深度学习推理计算卡,外形规格采用双槽全高全长 PCIe Gen 3 x16 金手指。S40AC 计算卡支持 80 GB LPDDR4x 内存,峰值内存写带宽为 210 GB/s,峰值内存读带宽为 210 GB/s,最大功耗 330 W。

S40AC 计算卡基于墨芯人工智能 Antoum® 架构构建。通过软硬件紧密结合的架构设计,强调平衡的结构化稀疏性,支持高达 32 倍的高稀疏率。基于 Antoum® 架构,S40AC 计算卡支持 FP16/BF16 和 INT8 计算。同时,S40AC 计算卡支持包括集成模型稀疏器的软件工具链、编译器和运行时在内的端到端软件解决方案,确保主流 AI 推理作业可以快速实现。

硬件与软件紧密结合的设计使 Antoum® 成为高效的人工智能片上系统处理器。此外,S40AC 计算卡还支持硬件视频编解码器和 JPEG 解码器,可处理视频和图像应用。S40AC 计算卡出厂时启用 DDR 内存的纠错码(Error-Correcting Code,ECC)功能,用于检测和纠正内存错误。

../../../_images/S40AC_appearance.png

规格

产品规格

规格 描述
产品名称 SparseOne® 疏云® AI 计算卡系列 | 墨芯 S40AC 计算卡(S40 Active Cooling)
热设计功耗(Thermal Design Power,TDP) 330 W
Antoum® 芯片名称 墨芯 Antoum® 英腾® 芯片
机械外形规格 双槽,全高全长
PCI IDs Device ID: 0x7040
Vendor ID: 0x1F36
Sub-vendor ID: 0x1F36
Sub-system ID: 0x7001
视频 BIOS(Video BIOS,VBIOS)NOR Flash 容量 16 MB
热冷却解决方案 主动式
系统接口 PCIe Gen 3 x16
板卡重量 1.36 kg
点对点(Peer-to-Peer,P2P)带宽 P2P 单边带宽:13.94 GB/s
P2P 双边带宽:27.95 GB/s
空闲功耗 40 W

内存规格

规格 描述
最大内存时钟 4200 MHz
内存大小 80 GB
内存总线宽度 640-bit
理论峰值内存带宽 峰值内存写带宽 185 GB/s
峰值内存读带宽 185 GB/s

环境和可靠性规格

规格 描述
操作环境温度 0℃ - 40℃
存储温度 -40℃ - 70℃
操作环境湿度 5%~95% 相对湿度
存储湿度 5%~95% 相对湿度
降频温度 90℃
停止工作温度 100℃
下电温度 110℃

电源示意图和管脚定义

接口名称

PCIe 8-pin 电源连接器

电源位置示意图

../../../_images/S40AC_power_connector.png

电源管脚定义

../../../_images/S40AC_power_pin.png

气流方向支持

S40AC 计算卡采用双向散热的设计,实现灵活散热。它可以接受从左到右或者从右到左的气流,如下图所示。

../../../_images/S40AC_air_flow.png

产品功能

PCIe 接口规格

介绍 S40AC 计算卡支持的 PCIe 接口规格。

PCIe 速率支持

S40AC 计算卡支持 PCIe Gen 3 x16。

须知

PCIe 接口为非标准 x16 接口,硬件形态采用 x16 金手指,信号由 4 个 x4 端口组成。服务器需要进行端口分配,将标准 x16 端口划分为 4 个独立的 x4 端口。

P/N 极性翻转和通道顺序翻转支持

S40AC 计算卡支持 PCIe 规范定义的 P/N 极性翻转和通道顺序翻转。翻转 PCIe 通道时,接收(Receive,Rx)通道和发送(Transmit,Tx)通道的顺序必须同时颠倒。

硬件信任根

S40AC 计算卡通过片上硬件安全引擎和 Arm TrustZone 技术提供硬件信任根。信任根支持安全引导和安全固件升级,并通过密钥管理、加密和认证保护用户的 AI 模型。

多实例支持

S40AC 计算卡中的稀疏处理单元 SPU(Sparse Processing Unit)支持多实例模式,最多可划分为 12 个多实例稀疏处理单元 MIS(Multi-Instance SPU)。墨芯 MIS 技术为每个实例提供相互隔离的 DDR、片上存储器、AI 计算核心、视频编解码器和 JPEG 解码器,用于优化计算资源分配和服务质量。

外形规格

S40AC 计算卡采取全高全长双槽的设计,标称尺寸如下图所示。

../../../_images/S40AC_spec.png