骁龙异构计算 SDK


目前,所有的硬件平台——从台式机到智能手机,都是围绕多核和异构系统芯片(SoC)构建的。此外,服务器和超级计算机还使用了专用内核,如GPU和DSP来提高性能和功效。

Qualcomm® 骁龙™异构计算SDK是一种用户级库,集成OS服务,尽可能隐藏硬件复杂性,为开发者提供性能控制能力。异构计算SDK(HetCompute)利用现有标准,允许在整个SoC上执行:POSIX和C11(利用多核)、OpenCL(调度到GPU)、OpenDSP(调度到 Qualcomm® Hexagon™ DSP)。

HetCompute 为所有这些设备提供了一个接近无缝的接口,开发者可以专注于开发应用,无需理会硬件管理、各种执行模型和数据传输。

HetCompute 在运行时系统上运行,该系统利用SoC计算资源执行并发应用程序。本质上,HetCompute运行时系统是一种线程、地址空间和设备的资源管理器,以一组高级算法为基础,开发者无需显式管理这些资源,同时为HetCompute执行模型提供最佳性能。

Qualcomm 解决方案

 

高通 AI Hub

全新高通 AI Hub 包含预优化AI模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。
该模型库为开发者提供超过75个主流的AI和生成式AI模型,比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B,可在不同执行环境(runtime)中打包,能够在不同形态终端中实现卓越的终端侧AI性能、降低内存占用并提升能效。所有模型均经过优化,以充分利用高通AI引擎内所有核心(NPU、CPU和GPU)的硬件加速能力,从而使推理速度提升4倍。

了解更多

SDK 下载

本版块下载 SDK,只需简单注册,就可轻松下载。