SOLA 示例验证手册

概述

这个项目旨在为用户提供 SOLA Runtime API 的实用示例代码以及模型部署的详细案例,从而协助用户迅速掌握并高效运用 SOLA Runtime API,实现项目的快速部署与实施。

准备工作

安装 SOLA

安装 SOLA 3.9.0,安装的详细步骤,请参见《SOLA Toolkit 安装指南》。

设置操作系统语言环境为英文

执行本示例程序必须在系统语言环境为英文的环境下进行,否则会出现执行错误。您执行以下命令将当前系统语言环境环境更改为英文:

$ export LANG=en_US.UTF-8
$ export LC_ALL=en_US.UTF-8
$ export LANGUAGE=en_US.UTF-8

获取 sola-demo 软件包

执行以下命令,获取源码文件并解压。以获取 sola-demo-3.9.0 为例:

$ wget  https://moffett-oss-bucket.tos-cn-shanghai.volces.com/sola-demo/sola-demo-3.9.0.tar.gz
$ tar -zxvf sola-demo-3.9.0.tar.gz
$ cd sola-demo-3.9.0

解压后的目录与文件结构如下所示:

├── common                  # 公用文件
├── data                    # 运行一些基础示例所需要的模型文件
├── inference               # 一个简单的通用推理框架示例
├── introduction            # SOLA Runtime API的基本用法介绍
├── models                  # SOLA Runtime API模型部署的demo
├── utils                   # SOLA Runtime API的一些实用工具
├── build.sh                # 编译脚本,在根目录下执行 build.sh,会编译所有的示例程序。模型部署的示例在各自的目录下也有编译脚本,可以单独编译。
├── install_dependencies.sh # 安装系统依赖脚本
├── prepare.sh              # 下载Python环境依赖和系统依赖
├── CHANGELOG.md            # 更变日志
├── README.md               # 说明文档
├── LICENSE                 # 版权信息
└── VERSION                 # 版本信息

安装基本软件依赖

执行以下命令,安装第三方基础软件依赖:

$ sudo sh install_dependencies.sh

您也可以自行安装以下第三方基础软件依赖:

  • wget

  • tar

  • libgl1

  • cmake >= 3.13

  • g++ >= 7.x

准备 Anaconda 或 Miniconda 环境

因为部分模型运行需要 Python 环境,所以请提前安装好 Anaconda 或 Miniconda 环境。

运行示例程序

准备工作完成后,您可运行示例程序,示例程序分为两种,一种是模型运行的示例,一种是 Runtime API 的示例。

运行模型示例

由于每个模型运行的环境可能不同且存在潜在冲突,因此需要在各模型的目录下准备特定环境并进行编译。尽管如此,模型的运行流程通常相似,为此我们提供了一系列通用脚本。一般而言,模型运行包括以下步骤:

  1. 参考各个模型的README手册,准备环境(如需)。

  2. 下载模型与数据集,并进行数据预处理(通常提供prepare.sh脚本)。

  3. 编译模型运行的示例程序(通常提供build.sh脚本)。

  4. 运行模型的示例程序(通常提供run.sh脚本)。

  5. 验证模型示例程序的运行结果(如有,通常提供verify.sh脚本)。

运行 Runtime API 示例

Runtime API 示例位于 introductionutilsinference 目录下,在根目录下执行 build.sh,会编译所有 Runtime API 示例程序。

编译产物在根目录的 build/bin 下,编译完成后,即可查询设备信息,示例命令如下:

$ ./build.sh
$ ./build/bin/device_query