参考指南

介绍

目标
本文档提供了高通®AI Engine Direct软件开发工具包(SDK)的参考指南。
注意 高通®AI Engine Direct在源代码和文档中也称为高通神经网络(QNN)。

约定
函数声明、函数名、类型声明、文件名、目录名和库名以不同的字体显示。例如:
#include
命令和代码示例出现在一个特殊格式的代码部分中。例如:
output = (input - offset) * scale.
数学表达式出现在一个特殊格式的数学部分中。例如:
\[y=x+1\]
环境变量以$开头,例如$QNN_SDK_ROOT。

平台差异
Windows和Linux平台特定的命名约定
高通®AI Engine Direct同时支持Windows和Linux平台,但库命名约定不同。在Linux上,库名称将以lib为前缀,并具有.so扩展名。在Windows上,库名称将没有前缀,而是具有.dll扩展名。
例如,QnnCpu后端库在Linux上为libQnnCpu.so,在Windows上为QnnCpu.dll。

发行说明
SDK中的发行说明以QNN_ReleaseNotes.txt的形式提供。

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。