墨芯 S40AC 计算卡产品简介
概述
墨芯 S40AC 计算卡(S40 Active Cooling)为数据中心的 AI 推理应用而打造。作为通用深度学习推理计算卡,外形规格采用双槽全高全长 PCIe Gen 3 x16 金手指。S40AC 计算卡支持 80 GB LPDDR4x 内存,峰值内存写带宽为 210 GB/s,峰值内存读带宽为 210 GB/s,最大功耗 330 W。
S40AC 计算卡基于墨芯人工智能 Antoum® 架构构建。通过软硬件紧密结合的架构设计,强调平衡的结构化稀疏性,支持高达 32 倍的高稀疏率。基于 Antoum® 架构,S40AC 计算卡支持 FP16/BF16 和 INT8 计算。同时,S40AC 计算卡支持包括集成模型稀疏器的软件工具链、编译器和运行时在内的端到端软件解决方案,确保主流 AI 推理作业可以快速实现。
硬件与软件紧密结合的设计使 Antoum® 成为高效的人工智能片上系统处理器。此外,S40AC 计算卡还支持硬件视频编解码器和 JPEG 解码器,可处理视频和图像应用。S40AC 计算卡出厂时启用 DDR 内存的纠错码(Error-Correcting Code,ECC)功能,用于检测和纠正内存错误。
规格
产品规格
| 规格 | 描述 |
|---|---|
| 产品名称 | SparseOne® 疏云® AI 计算卡系列 | 墨芯 S40AC 计算卡(S40 Active Cooling) |
| 热设计功耗(Thermal Design Power,TDP) | 330 W |
| Antoum® 芯片名称 | 墨芯 Antoum® 英腾® 芯片 |
| 机械外形规格 | 双槽,全高全长 |
| PCI IDs | Device ID: 0x7040 Vendor ID: 0x1F36 Sub-vendor ID: 0x1F36 Sub-system ID: 0x7001 |
| 视频 BIOS(Video BIOS,VBIOS)NOR Flash 容量 | 16 MB |
| 热冷却解决方案 | 主动式 |
| 系统接口 | PCIe Gen 3 x16 |
| 板卡重量 | 1.36 kg |
| 点对点(Peer-to-Peer,P2P)带宽 | P2P 单边带宽:13.94 GB/s P2P 双边带宽:27.95 GB/s |
| 空闲功耗 | 40 W |
内存规格
| 规格 | 描述 |
|---|---|
| 最大内存时钟 | 4200 MHz |
| 内存大小 | 80 GB |
| 内存总线宽度 | 640-bit |
| 理论峰值内存带宽 | 峰值内存写带宽 185 GB/s 峰值内存读带宽 185 GB/s |
环境和可靠性规格
| 规格 | 描述 |
|---|---|
| 操作环境温度 | 0℃ - 40℃ |
| 存储温度 | -40℃ - 70℃ |
| 操作环境湿度 | 5%~95% 相对湿度 |
| 存储湿度 | 5%~95% 相对湿度 |
| 降频温度 | 90℃ |
| 停止工作温度 | 100℃ |
| 下电温度 | 110℃ |
电源示意图和管脚定义
接口名称
PCIe 8-pin 电源连接器
电源位置示意图
电源管脚定义
气流方向支持
S40AC 计算卡采用双向散热的设计,实现灵活散热。它可以接受从左到右或者从右到左的气流,如下图所示。
产品功能
PCIe 接口规格
介绍 S40AC 计算卡支持的 PCIe 接口规格。
PCIe 速率支持
S40AC 计算卡支持 PCIe Gen 3 x16。
须知
PCIe 接口为非标准 x16 接口,硬件形态采用 x16 金手指,信号由 4 个 x4 端口组成。服务器需要进行端口分配,将标准 x16 端口划分为 4 个独立的 x4 端口。
P/N 极性翻转和通道顺序翻转支持
S40AC 计算卡支持 PCIe 规范定义的 P/N 极性翻转和通道顺序翻转。翻转 PCIe 通道时,接收(Receive,Rx)通道和发送(Transmit,Tx)通道的顺序必须同时颠倒。
硬件信任根
S40AC 计算卡通过片上硬件安全引擎和 Arm TrustZone 技术提供硬件信任根。信任根支持安全引导和安全固件升级,并通过密钥管理、加密和认证保护用户的 AI 模型。
多实例支持
S40AC 计算卡中的稀疏处理单元 SPU(Sparse Processing Unit)支持多实例模式,最多可划分为 12 个多实例稀疏处理单元 MIS(Multi-Instance SPU)。墨芯 MIS 技术为每个实例提供相互隔离的 DDR、片上存储器、AI 计算核心、视频编解码器和 JPEG 解码器,用于优化计算资源分配和服务质量。
外形规格
S40AC 计算卡采取全高全长双槽的设计,标称尺寸如下图所示。