Qualcomm AI Engine Direct 使用手册(12)

本页概述了用于在 QNN 中定义操作定义 (Op Defs) 的架构。操作定义指定构成操作的输入、输出、参数和描述性元数据。

Qualcomm AI

时间:2024-01-09 17:50:56

Qualcomm AI Engine Direct 使用手册(11)

Qualcomm® AI Engine Direct软件架构旨在允许使用 QNN 的应用程序的内存占用进行高度定制,具体取决于运行模型所需的后端和操作。操作包通过编译成与后端核心库不同的共享库而与后端分离。这允许用户通过将用例所需的任意数量的操作打包到 Op 包中来编译精益应用程序。这在深度嵌入的物联网类型用例中尤其理想,这些用例在严格的内存限制内运行,并且仅针对少数针对其需求定制的网络模型。

Qualcomm AI

时间:2024-01-09 17:48:24

Qualcomm AI Engine Direct 使用手册(10)

QNN GPU 后端将根据网络拓扑分析共享 NATIVE 张量内存。当 disableMemoryOptimizations非零时,模型中的每个张量将被分配唯一的内存并且共享被禁用。

Qualcomm AI

时间:2024-01-08 10:16:03

Qualcomm AI Engine Direct 使用手册(9)

QNN HTA 支持运行量化 8 位和量化 16 位网络。QNN HTA Quant 运行时支持的操作列表可以在支持的操作中的后端支持 HTA 列下查看

Qualcomm AI

时间:2024-01-05 13:55:44

Qualcomm AI Engine Direct 使用手册(8)

QNN 使用 QNN 上下文二进制来执行神经网络。图形准备后,“QNN 上下文” 二进制”包含信息和为了更快地推理模型而进行的优化。 “QNN 上下文二进制”具有 与 QNN 模型的尺寸相比,尺寸更大。

Qualcomm AI

时间:2024-01-05 10:40:59

Qualcomm AI Engine Direct 使用手册(7)

由于删除了子操作,总执行时间显着减少。所有操作 也有大量的并行操作执行 - 正如它们各自的重叠时间所证明的那样 数字 - 表明优化良好。 展示模型 2图表说明了模型 与 展示模型 1 中的类似 图表。不同之处在于有一个 div 操作代替了有问题的子操作。

Qualcomm AI

时间:2024-01-04 15:10:10

Qualcomm AI Engine Direct 使用手册(6)

HTP 执行基本分析事件 图表说明了 基本 HTP 执行分析事件以及在推理过程中如何测量它们。

Qualcomm AI

时间:2024-01-04 14:54:56

Qualcomm AI Engine Direct 使用手册(5)

qnn-net-run 实用程序与后端无关,这意味着它只能使用通用 QNN API。后端扩展功能 方便使用后端特定 API,即自定义配置。有关后端扩展的更多文档 可以在qnn-net-run下找到。请注意,QNN 后端扩展的范围是 仅限于 qnn-net-run。

Qualcomm AI

时间:2024-01-03 14:31:57

Qualcomm AI Engine Direct 使用手册(4)

客户端可以调用 QnnDevice_getInfrastruct 加载 QNN HTP 库后,然后调用可用的方法 文件 QnnHtpPerfInfrastruct.h 的程序列表。这些 API 允许客户端控制 CPU 和 HTP 加速器用于性能目的的系统设置。

Qualcomm AI

时间:2024-01-02 14:48:08

Qualcomm AI Engine Direct 使用手册(3)

客户端通过后端与 Qualcomm® 交互AI Engine Direct。一般来说,Qualcomm® AI Engine Direct 后端是一个软件实体 它实现了QNN API,并且通常以 共享库。术语“QNN 后端”和“QNN 后端库”经常互换使用。

Qualcomm AI

时间:2023-12-29 11:07:43

Qualcomm AI Engine Direct 使用手册(2)

本页将概述使用 Qualcomm® AI Engine Direct SDK 所需的设置。 该页面分为 Linux 平台依赖项、Windows 平台依赖项 和 < /span>。环境设置

Qualcomm AI

时间:2023-12-28 16:13:23

每页显示 共2023条数据 < 1... 38 39 40 ...184 >      到第 GO

高通软件中心

通过集中式门户站无缝管理您的高通®软件和工具

下载软件中心

申请成为“Qualcomm荣誉技术大使”

“Qualcomm荣誉技术大使”是Qualcomm开发者社区对开发者用户技术能力与影响力的认证体现,该荣誉代表Qualcomm社区对用户贡献的认可与肯定。

立即申请

Qualcomm 解决方案

 

高通技术公司推出头戴式AR开发套件骁龙Spaces™ XR开发者平台,助力打造无缝融合现实世界和数字世界边界的沉浸式体验。

为开发者提供实现创意的工具,并将变革头戴式AR的可能性,现已面市!