Qualcomm AI Engine Direct 使用手册(7)

由于删除了子操作,总执行时间显着减少。所有操作 也有大量的并行操作执行 - 正如它们各自的重叠时间所证明的那样 数字 - 表明优化良好。 展示模型 2图表说明了模型 与 展示模型 1 中的类似 图表。不同之处在于有一个 div 操作代替了有问题的子操作。

Qualcomm AI

时间:2024-01-04 15:10:10

Qualcomm AI Engine Direct 使用手册(6)

HTP 执行基本分析事件 图表说明了 基本 HTP 执行分析事件以及在推理过程中如何测量它们。

Qualcomm AI

时间:2024-01-04 14:54:56

Qualcomm AI Engine Direct 使用手册(5)

qnn-net-run 实用程序与后端无关,这意味着它只能使用通用 QNN API。后端扩展功能 方便使用后端特定 API,即自定义配置。有关后端扩展的更多文档 可以在qnn-net-run下找到。请注意,QNN 后端扩展的范围是 仅限于 qnn-net-run。

Qualcomm AI

时间:2024-01-03 14:31:57

Qualcomm AI Engine Direct 使用手册(4)

客户端可以调用 QnnDevice_getInfrastruct 加载 QNN HTP 库后,然后调用可用的方法 文件 QnnHtpPerfInfrastruct.h 的程序列表。这些 API 允许客户端控制 CPU 和 HTP 加速器用于性能目的的系统设置。

Qualcomm AI

时间:2024-01-02 14:48:08

Qualcomm AI Engine Direct 使用手册(3)

客户端通过后端与 Qualcomm® 交互AI Engine Direct。一般来说,Qualcomm® AI Engine Direct 后端是一个软件实体 它实现了QNN API,并且通常以 共享库。术语“QNN 后端”和“QNN 后端库”经常互换使用。

Qualcomm AI

时间:2023-12-29 11:07:43

Qualcomm AI Engine Direct 使用手册(2)

本页将概述使用 Qualcomm® AI Engine Direct SDK 所需的设置。 该页面分为 Linux 平台依赖项、Windows 平台依赖项 和 < /span>。环境设置

Qualcomm AI

时间:2023-12-28 16:13:23

Qualcomm AI Engine Direct 使用手册(1)

Qualcomm® AI Engine Direct 是 Qualcomm Technologies Inc. (QTI) 用于 AI/ML 用例的软件架构 关于 QTI 芯片组和 AI 加速核心。

Qualcomm AI

时间:2023-12-27 14:33:46

Qualcomm Cloud AI SDK 用户指南(12)

Session 是这些 API 的入口点。Session 是一个工厂方法,用户需要调用它来创建会话实例。创建会话时默认会编译模型。

Qualcomm AI SDK

时间:2023-12-26 14:08:44

Qualcomm Cloud AI SDK 用户指南(11)

Cloud AI 平台/卡每张卡包含一个或多个 Cloud AI 100 SoC,并设计为在特定 TDP 下运行。这些卡通过 PCIe 连接到主机,并通过 SMBus/I2C 连接到 BMC。

Qualcomm AI SDK

时间:2023-12-25 15:52:26

Qualcomm Cloud AI SDK 用户指南(10)

Triton Inference Server 是一款开源推理服务软件,可简化 AI 推理。AIC100 SDK 为推理执行工作流程启用两个后端。这些后端一旦在带有 AIC100 卡的主机上使用,就会在初始化期间检测 AIC100 卡,并将推理调用(请求到 Triton 服务器)路由到硬件。

Qualcomm AI SDK

时间:2023-12-22 14:29:15

Qualcomm Cloud AI SDK 用户指南(9)

本节将介绍开发人员在云 AI 平台上执行推理的不同方式(CLI、C++、Python 等)以及可集成到推理应用程序并部署在生产管道中的所有工具/实用程序。

Qualcomm AI SDK

时间:2023-12-21 14:50:33

每页显示 共1897条数据 < 1... 27 28 29 ...173 >      到第 GO

高通软件中心

通过集中式门户站无缝管理您的高通®软件和工具

下载软件中心

申请成为“Qualcomm荣誉技术大使”

“Qualcomm荣誉技术大使”是Qualcomm开发者社区对开发者用户技术能力与影响力的认证体现,该荣誉代表Qualcomm社区对用户贡献的认可与肯定。

立即申请

Qualcomm 解决方案

 

高通技术公司推出头戴式AR开发套件骁龙Spaces™ XR开发者平台,助力打造无缝融合现实世界和数字世界边界的沉浸式体验。

为开发者提供实现创意的工具,并将变革头戴式AR的可能性,现已面市!