人工智能软件加速器框架

高通技术公司提供以下 SDK 和工具来支持硬件加速:

•高通® 神经处理 SDK

•人工智能模型效率工具包 (AIMET)

高通神经处理 SDK

高通神经处理 SDK旨在帮助开发人员快速将 人工智能/机器学习 模型集成到他们的 安卓应用程序中。这是通过抽象硬件复杂性来实现的,提供快速、便携式人工智能应用程序开发的优势。

高通神经处理SDK 可用于以下目的:
•将 Caffe、Caffe2、TensorFlow、PyTorch 和 TFLite 模型转换为深度学习容器 (DLC) 文件
•DLC 文件量化为 8 位/16 位定点,以便在 高通 HTP 上执行
•通过 C++ 或 Java 将网络集成到 Android 应用程序中
•在 高通® Kryo™ CPU、高通® Adreno™ GPU 或 HTP 上执行网络
•调试并分析 ML 模型的性能。

下图展示了人工智能开发的典型工作流程,模型训练是在SDK支持的任何流行的深度学习框架上进行的。训练完成后,训练后的模型将转换为 DLC 文件,该文件可以加载到目标设备上运行的 SDK 运行时中。
注:高通 人工智能神经处理 SDK 在源代码、工具和文档中也称为 骁龙神经处理引擎 (SNPE),AIMET 是 高通创新中心的产品。

人工智能模型效率工具包 (AIMET)

AIMET是一个为经过训练的神经网络模型提供高级模型量化和压缩技术的库。

它提供的功能已被证明可以提高深度学习神经网络模型的运行时性能,同时降低计算和内存要求,并且对任务准确性的影响最小。

AIMET 旨在与PyTorchTensorFlow模型配合使用。
高通创新中心还维护着一个名为 AIMET Model Zoo 的开源存储库,网址为https://github.com/quic/aimet-model-zoo
AIMET Model Zoo 是针对 8 位推理优化的流行神经网络模型的集合。我们还为用户提供了使用 AIMET 量化浮点模型的方法。
更多关于AIMET的详细信息,请访问: https: //github.com/quic/aimet;
有关AIMET模型Zoo的更多详细信息,请访问: https: //github.com/quic/aimet-model-zoo

Snapdragon 和 Qualcomm 品牌产品是高通 技术公司和/或其子公司的产品。

Qualcomm 解决方案

 

高通软件中心

通过集中式门户站无缝管理您的高通®软件和工具

下载软件中心