高通 AI 引擎直通

Qualcomm AI Engine Direct架构旨在提供针对加速器场景的统一API以及模块化和可扩展的类库,为全栈AI解决方案(我们自己的框架和第三方框架)提供可重用的基础(如带有QNN图的AI软件堆栈所示)。

骁龙和高通计算机视觉是高通技术公司和/或其子公司的产品。

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。