云原生组件
墨芯云原生组件用于在容器与 Kubernetes 环境中部署、调度并监控墨芯稀疏处理单元 SPU(Sparse Processing Unit)计算卡。
组件说明
各组件的主要职责如下:
SPU Operator — 基于 Kubernetes Operator Framework,统一管理 SPU 相关组件的部署、配置与生命周期,详见《SPU Operator 用户手册》。
容器化 SOLA 驱动 — 以容器化方式在 Kubernetes 集群中统一部署和配置 SOLA 驱动组件,通常由 SPU Operator 管理;单机环境优先直接安装 SOLA Toolkit,详见《SOLA Toolkit 安装指南》。
Container Toolkit — 生成容器设备接口(Container Device Interface,CDI)规范文件,使容器运行时识别并使用 SPU,详见《Container Toolkit 用户手册》。
Device Plugin — 向 Kubelet 注册
moffett.ai/spu资源,供工作负载申请 SPU 设备,仅用于 Kubernetes 环境,详见《Device Plugin 用户手册》。SPU Feature Discovery(SFD)— 自动探测节点上的 SPU 设备数量、型号和显存属性,通过 Node Feature Discovery(NFD)发布节点标签,供设备信息查询和工作负载节点选择使用。仅支持通过 SPU Operator 部署。使用方法参见查看设备属性,参数参见SFD 配置。
DCSM Exporter — 基于数据中心 SPU 管理器 DCSM(Data Center SPU Manager)导出 SPU 负载与健康指标,用于接入监控体系,可按监控需求单独部署或由 SPU Operator 管理,详见《DCSM Exporter 用户手册》。
选择部署方式
运行环境 |
推荐方式 |
|---|---|
Kubernetes 集群 |
使用 SPU Operator 统一部署 |
非 Kubernetes 容器环境 |
安装 SOLA Toolkit,再部署 Container Toolkit |
直接在主机上运行应用 |
安装 SOLA Toolkit |
Kubernetes 集群不使用 Operator 时,可按需单独部署组件,参见上方组件说明。监控组件按需部署。