Rspress

# #模型推理API概览

本章节主要介绍了模型推理相关的API、数据、结构体、排布及对齐规则等。 通过阅读本章节，您可以在Horizon开发板上利用API完成模型的加载与释放，模型信息的获取，以及模型的推理等操作。

## #数据结构

名称 | 描述
--- | ---
HB_DNN_TENSOR_MAX_DIMENSIONS | 张量最大的维度
hbDNNPackedHandle_t | DNN句柄，指向打包的多个模型
hbDNNHandle_t | DNN句柄，指向单一模型
hbDNNDataType | 张量的类型
hbDNNTensorShape | 张量的形状
hbDNNDescType | 描述信息类型
hbDNNQuantiScale | 量化/反量化的缩放数据
hbDNNQuantiType | 定点浮点转换的量化/反量化类型
hbDNNTensorProperties | 张量的信息
hbDNNTensor | 张量

## #功能接口

名称 | 描述
--- | ---
hbDNNGetVersion | 获取DNN预测库版本信息
hbDNNInitializeFromFiles | 从文件完成对 `dnnPackedHandle` 的创建和初始化
hbDNNInitializeFromDDR | 从内存完成对 `dnnPackedHandle` 的创建和初始化
hbDNNRelease | 将 `dnnPackedHandle` 所指向的模型释放
hbDNNGetModelNameList | 获取 `dnnPackedHandle` 所指向模型的名称列表和个数
hbDNNGetModelHandle | 从 `dnnPackedHandle` 所指向模型列表中获取一个模型的句柄
hbDNNGetInputCount | 获取 `dnnHandle` 所指向模型输入张量的个数
hbDNNGetInputName | 获取 `dnnHandle` 所指向模型输入张量的名称
hbDNNGetInputTensorProperties | 获取 `dnnHandle` 所指向模型特定输入张量的属性
hbDNNGetOutputCount | 获取 `dnnHandle` 所指向模型输出张量的个数
hbDNNGetOutputName | 获取 `dnnHandle` 所指向模型输出张量的名称
hbDNNGetOutputTensorProperties | 获取 `dnnHandle` 所指向模型特定输出张量的属性
hbDNNGetInputDesc | 获取 `dnnHandle` 指向模型特定输入所关联的描述信息
hbDNNGetOutputDesc | 获取 `dnnHandle` 指向模型特定输出所关联的描述信息
hbDNNGetModelDesc | 获取 `dnnHandle` 指向模型所关联的描述信息
hbDNNGetCompileBpuCoreNum | 获取 `dnnHandle` 指向模型编译时指定的BPU核个数
hbDNNGetHBMDesc | 获取 `dnnPackedHandle` 和 `index` 指向hbm所关联的描述信息
hbDNNInferV2 | 根据输入参数创建同步/异步推理任务
hbDNNGetTaskOutputTensorProperties | 获取 `taskHandle` 指向任务特定输出张量的动态属性
hbDNNGetErrorDesc | 将错误码翻译成自然语言

页面目录