SOLA 应用示例

SOLA 应用示例分为编程与多媒体示例和服务部署示例。

编程与多媒体

编程与多媒体示例用于学习 SOLA Runtime API、部署模型和运行多媒体处理程序：

示例	提供的模型示例	适用场景
SOLA Demo 示例包	BERT-Base BERT-Large ResNet50	SOLA Runtime API 学习、模型部署入门、多媒体处理

服务部署

服务部署示例用于在墨芯计算卡上部署模型推理服务：

服务	支持的模型	适用场景
大语言模型推理服务	Qwen1.5-7B-Chat-w8a8 (int8) Qwen1.5-7B-Chat (bf16) DeepSeek-R1-Distill-Qwen-1.5B	大语言模型推理和并发测试
文本向量与重排服务	文本向量：BGE-M3 文本重排：Qwen3-Reranker-0.6B	文本向量生成、候选文档重排及相关评测及部署