墨芯 S4 计算卡产品简介

概述

墨芯人工智能 S4 计算卡(以下简称 S4 计算卡)专为数据中心的 AI 推理应用设计。作为一款通用深度学习推理计算卡,外形规格采用单槽 PCIe Gen 3 x16 半高半长设计。S4 计算卡支持 20 GB 的 LPDDR4x 内存,峰值内存写带宽 65 GB/s,峰值内存读带宽 65 GB/s,最大功耗 70 W。被动冷却设计通过系统气流实现散热,确保在热限制范围内高效运行。

S4 计算卡基于墨芯人工智能 Antoum® 架构,通过软硬件的紧密结合,优化了结构化稀疏性的平衡,支持高达 32 倍的稀疏率。基于 Antoum® 架构,S4 计算卡支持 BF16 和 INT8 精度的计算。同时,S4 计算卡支持包括集成模型稀疏器的软件工具链、编译器和运行时在内的端到端软件解决方案,确保主流 AI 推理作业可以快速实现。

软硬件紧密结合的设计使 Antoum® 架构成为高效的 AI 片上系统处理器。此外,S4 计算卡还集成硬件视频编解码器和 JPEG 解码器,能够高效处理视频和图像相关的应用场景。为确保系统稳定性,S4 计算卡在出厂时启用了 DDR 内存的纠错码(Error-Correcting Code,ECC)功能,用于检测和纠正内存错误。

../../../_images/S4-1.png

规格

产品规格

规格 描述
产品名称 SparseOne® 疏云® AI 计算卡系列 | 墨芯 S4 计算卡
热设计功耗(Thermal Design Power,TDP) 70 W
Antoum® 芯片名称 墨芯 Antoum® 英腾® 芯片
外形尺寸 单槽,半高半长
PCI IDs Device ID: 0x7000
Vendor ID: 0x1F36
Sub-vendor ID: 0x1F36
Sub-system ID: 0x7000
视频 BIOS(Video BIOS,VBIOS) NOR Flash 容量 16 MB
热冷却解决方案 被动式
系统接口 PCIe Gen 3 x16
板卡重量 316.8 g
点对点(Peer-to-Peer,P2P)带宽 P2P 单边带宽 9.52 GB/s
P2P 双边带宽 19.04 GB/s

内存规格

规格 描述
最大内存时钟 4200 MHz
内存大小 20 GB
内存总线宽度 160-bit
峰值内存带宽 峰值内存写带宽 65 GB/s
峰值内存读带宽 65 GB/s

环境和可靠性规格

规格 描述
操作环境温度 0℃ - 50℃
存储温度 -40℃ - 70℃
操作环境湿度 5%~95% 相对湿度
存储湿度 5%~95% 相对湿度
降频温度 90℃
停止工作温度 100℃
下电温度 110℃

气流方向支持

S4 计算卡采用双向散热设计,支持气流从左到右或从右到左的流动方向,如下图所示。

../../../_images/S4-2.png

产品功能

PCIe 接口规格

介绍 S4 计算卡支持的 PCIe 接口规格。

PCIe 速率支持

S4 计算卡支持 PCIe Gen 3.0。

P/N 极性翻转和通道顺序翻转支持

S4 计算卡支持 PCIe 规范定义的 P/N 极性翻转和通道顺序翻转。翻转 PCIe 通道时,接收(Receive,Rx)通道和发送(Transmit,Tx)通道的顺序必须同时颠倒。

硬件信任根

S4 计算卡通过片上硬件安全引擎和 Arm TrustZone 技术提供硬件信任根。信任根支持安全引导和安全固件升级,并通过密钥管理、加密和认证保护用户的 AI 模型。

多实例支持

S4 计算卡中的稀疏处理单元 SPU(Sparse Processing Unit)支持多实例模式,最多可划分为 4 个多实例稀疏处理单元 MIS(Multi-Instance SPU)。墨芯 MIS 技术为每个实例提供相互隔离的 DDR、片上存储器、AI 计算核心、视频编解码器和 JPEG 解码器,用于优化计算资源分配和服务质量。

外形规格

S4 计算卡采用半高半长的设计,标称尺寸如下图所示。

../../../_images/S4-3.png