墨芯 S4 计算卡产品简介
概述
墨芯人工智能 S4 计算卡(以下简称 S4 计算卡)专为数据中心的 AI 推理应用设计。作为一款通用深度学习推理计算卡,外形规格采用单槽 PCIe Gen 3 x16 半高半长设计。S4 计算卡支持 20 GB 的 LPDDR4x 内存,峰值内存写带宽 65 GB/s,峰值内存读带宽 65 GB/s,最大功耗 70 W。被动冷却设计通过系统气流实现散热,确保在热限制范围内高效运行。
S4 计算卡基于墨芯人工智能 Antoum® 架构,通过软硬件的紧密结合,优化了结构化稀疏性的平衡,支持高达 32 倍的稀疏率。基于 Antoum® 架构,S4 计算卡支持 BF16 和 INT8 精度的计算。同时,S4 计算卡支持包括集成模型稀疏器的软件工具链、编译器和运行时在内的端到端软件解决方案,确保主流 AI 推理作业可以快速实现。
软硬件紧密结合的设计使 Antoum® 架构成为高效的 AI 片上系统处理器。此外,S4 计算卡还集成硬件视频编解码器和 JPEG 解码器,能够高效处理视频和图像相关的应用场景。为确保系统稳定性,S4 计算卡在出厂时启用了 DDR 内存的纠错码(Error-Correcting Code,ECC)功能,用于检测和纠正内存错误。
规格
产品规格
| 规格 | 描述 |
|---|---|
| 产品名称 | SparseOne® 疏云® AI 计算卡系列 | 墨芯 S4 计算卡 |
| 热设计功耗(Thermal Design Power,TDP) | 70 W |
| Antoum® 芯片名称 | 墨芯 Antoum® 英腾® 芯片 |
| 外形尺寸 | 单槽,半高半长 |
| PCI IDs | Device ID: 0x7000 Vendor ID: 0x1F36 Sub-vendor ID: 0x1F36 Sub-system ID: 0x7000 |
| 视频 BIOS(Video BIOS,VBIOS) NOR Flash 容量 | 16 MB |
| 热冷却解决方案 | 被动式 |
| 系统接口 | PCIe Gen 3 x16 |
| 板卡重量 | 316.8 g |
| 点对点(Peer-to-Peer,P2P)带宽 | P2P 单边带宽 9.52 GB/s P2P 双边带宽 19.04 GB/s |
内存规格
| 规格 | 描述 |
|---|---|
| 最大内存时钟 | 4200 MHz |
| 内存大小 | 20 GB |
| 内存总线宽度 | 160-bit |
| 峰值内存带宽 | 峰值内存写带宽 65 GB/s 峰值内存读带宽 65 GB/s |
环境和可靠性规格
| 规格 | 描述 |
|---|---|
| 操作环境温度 | 0℃ - 50℃ |
| 存储温度 | -40℃ - 70℃ |
| 操作环境湿度 | 5%~95% 相对湿度 |
| 存储湿度 | 5%~95% 相对湿度 |
| 降频温度 | 90℃ |
| 停止工作温度 | 100℃ |
| 下电温度 | 110℃ |
气流方向支持
S4 计算卡采用双向散热设计,支持气流从左到右或从右到左的流动方向,如下图所示。
产品功能
PCIe 接口规格
介绍 S4 计算卡支持的 PCIe 接口规格。
PCIe 速率支持
S4 计算卡支持 PCIe Gen 3.0。
P/N 极性翻转和通道顺序翻转支持
S4 计算卡支持 PCIe 规范定义的 P/N 极性翻转和通道顺序翻转。翻转 PCIe 通道时,接收(Receive,Rx)通道和发送(Transmit,Tx)通道的顺序必须同时颠倒。
硬件信任根
S4 计算卡通过片上硬件安全引擎和 Arm TrustZone 技术提供硬件信任根。信任根支持安全引导和安全固件升级,并通过密钥管理、加密和认证保护用户的 AI 模型。
多实例支持
S4 计算卡中的稀疏处理单元 SPU(Sparse Processing Unit)支持多实例模式,最多可划分为 4 个多实例稀疏处理单元 MIS(Multi-Instance SPU)。墨芯 MIS 技术为每个实例提供相互隔离的 DDR、片上存储器、AI 计算核心、视频编解码器和 JPEG 解码器,用于优化计算资源分配和服务质量。
外形规格
S4 计算卡采用半高半长的设计,标称尺寸如下图所示。