人工智能软件加速器框架
高通技术公司提供以下 SDK 和工具来支持硬件加速：
•高通® 神经处理 SDK
•人工智能模型效率工具包 (AIMET)
高通神经处理 SDK
高通神经处理 SDK旨在帮助开发人员快速将 人工智能/机器学习 模型集成到他们的 安卓应用程序中。这是通过抽象硬件复杂性来实现的，提供快速、便携式人工智能应用程序开发的优势。
高通神经处理SDK 可用于以下目的：
•将 Caffe、Caffe2、TensorFlow、PyTorch 和 TFLite 模型转换为深度学习容器 (DLC) 文件
•DLC 文件量化为 8 位/16 位定点，以便在 高通 HTP 上执行
•通过 C++ 或 Java 将网络集成到 Android 应用程序中
•在 高通® Kryo™ CPU、高通® Adreno™ GPU 或 HTP 上执行网络
•调试并分析 ML 模型的性能。
下图展示了人工智能开发的典型工作流程，模型训练是在SDK支持的任何流行的深度学习框架上进行的。训练完成后，训练后的模型将转换为 DLC 文件，该文件可以加载到目标设备上运行的 SDK 运行时中。
注：高通 人工智能神经处理 SDK 在源代码、工具和文档中也称为 骁龙神经处理引擎 (SNPE)，AIMET 是 高通创新中心的产品。
人工智能模型效率工具包 (AIMET)
AIMET是一个为经过训练的神经网络模型提供高级模型量化和压缩技术的库。它提供的功能已被证明可以提高深度学习神经网络模型的运行时性能，同时降低计算和内存要求，并且对任务准确性的影响最小。
AIMET 旨在与PyTorch和TensorFlow模型配合使用。
高通创新中心还维护着一个名为 AIMET Model Zoo 的开源存储库，网址为https://github.com/quic/aimet-model-zoo
AIMET Model Zoo 是针对 8 位推理优化的流行神经网络模型的集合。我们还为用户提供了使用 AIMET 量化浮点模型的方法。
更多关于AIMET的详细信息，请访问： https: //github.com/quic/aimet；
有关AIMET模型Zoo的更多详细信息，请访问： https: //github.com/quic/aimet-model-zoo
Snapdragon 和 Qualcomm 品牌产品是高通 技术公司和/或其子公司的产品。
Qualcomm 开发者专区是 Qualcomm 联合CSDN 共同打造的面向中国开发者的技术专区。致力于通过提供全球最新资讯和最多元的技术资源及支持，为开发者们打造全面一流的开发环境。本专区将以嵌入式、物联网、游戏开发、Qualcomm® 骁龙™处理器的软件优化等技术为核心，打造全面的开发者技术服务社区，为下一代高性能体验和设计带来更多的想法和灵感。
加入 Qualcomm 开发者专区高通 AI Hub
全新高通 AI Hub 包含预优化AI模型库，支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型，比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B，可在不同执行环境(runtime)中打包，能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化，以充分利用高通AI引擎内所有核心（NPU、CPU和GPU）的硬件加速能力，从而使推理速度提升4倍。
Qualcomm 活动 更多
SDK 下载
本版块下载 SDK，只需简单注册，就可轻松下载。