云原生组件

墨芯云原生组件用于在容器与 Kubernetes 环境中部署、调度并监控墨芯 SPU(Sparse Processing Unit,稀疏处理单元)计算卡。在 Kubernetes 集群中,推荐使用 SPU Operator 统一管理 SPU 相关组件的部署、配置与生命周期;在不使用 Kubernetes 的单机或裸金属环境中,无需部署 SPU Operator 与 Device Plugin。

组件说明

云原生组件按运行环境选择部署方式。Kubernetes 集群优先由 SPU Operator 统一管理;非 Kubernetes 环境按是否使用容器和监控需求部署对应组件:

  • SPU Operator — 基于 Kubernetes Operator Framework,统一管理 SPU 相关组件的部署、配置与生命周期,详见《SPU Operator 用户手册》

  • 容器化 SOLA 驱动 — 以容器化方式在 Kubernetes 集群中统一部署和配置 SOLA 驱动组件,通常由 SPU Operator 管理;单机环境优先直接安装 SOLA Toolkit,详见《SOLA Toolkit 安装指南》

  • Container Toolkit — 生成 CDI(Container Device Interface,容器设备接口)规范文件,使容器运行时识别并使用 SPU;需要在容器中使用 SPU 时部署,详见《Container Toolkit 用户手册》

  • Device Plugin — 向 Kubelet 注册 SPU 资源,支持 Kubernetes 调度,仅用于 Kubernetes 环境,详见《Device Plugin 用户手册》

  • DCSM(Data Center SPU Manager)Exporter — 以 Prometheus 格式导出 SPU 负载与健康指标,用于接入监控体系,可按监控需求单独部署或由 SPU Operator 管理,详见《DCSM Exporter 用户手册》

默认路径与手动路径

Kubernetes 集群优先使用 SPU Operator(默认路径)。仅在已有主机驱动管理方式或不便运行 Operator 时,手动单独部署对应组件。同一组件在同一环境中只选择一种部署方式,不要同时部署,以免冲突.

运行场景 推荐路径 说明
Kubernetes 集群(无特殊约束) 默认路径:SPU Operator 统一管理 统一管理驱动、Container Toolkit、Device Plugin 与监控组件的部署、配置和生命周期
Kubernetes 集群(已有主机驱动管理方式,或不便运行 Operator) 手动路径:按需单独部署 Container Toolkit / Device Plugin / DCSM Exporter 仅部署实际需要的组件,避免与 Operator 重复管理
单机宿主机(不跑容器) 单机部署:仅安装 SOLA Toolkit(含驱动) 不涉及 SPU Operator 与 Device Plugin
单机或裸金属容器 单机部署:SOLA Toolkit + Container Toolkit 需要在容器中使用 SPU 时生成 CDI 规范;DCSM Exporter 按监控需求可选部署

单机部署

单机或裸金属环境不使用 Kubernetes 时,无需部署 SPU Operator 与 Device Plugin。若仅在主机上使用 SPU,安装 SOLA Toolkit 即可;若需要在容器中使用 SPU,安装 SOLA Toolkit 后再部署 Container Toolkit 并生成 CDI 规范文件。DCSM Exporter 属于可选监控组件,可按监控需求单独部署。