我正在尝试使用NPU在我的Android手机上运行Llama-v3-8B-Chat。将模型导出为优化的Qualcomm格式后,我如何在移动设备上使用自己的提示在本地运行它?非常感谢。
发帖人:我爱炸鸡和可乐 时间:11-01 AI 人工智能
使用AI Engine Direct Helper开发AI类应用需要掌握哪些技能,有哪些地方需要特别注意的呢?
发帖人:璐娜玛丽亚 时间:10-28 WoS
在AIMET的 onnx的运行时下, 如何添加连续mse功能?
发帖人:维多利亚的拥抱 时间:10-28 AI 人工智能
QCS8550 的SDIO接口在SDR104的模式下, 是否开启了auto tuning的功能?
发帖人:阿尔多利亚 时间:10-28 IoT 物联网
QNN SDK提供python接口吗?如果想使用python语言在WoS平台上开发AI类应用,都有哪些途径呢?
发帖人:富春山水图 时间:10-28 WoS
mdm9628在emmc和ddr上文件拷贝时,发生位反转
发帖人:qq_26790809 时间:10-22 Auto 汽车
WoS平台上执行qnn-model-lib-generator提示ClangCL找不到:
发帖人:菲菲菲常美丽的巨兔 时间:10-18 WoS
WoS平台上执行envcheck.ps1 -m时提示Visual C++未安装:
发帖人:明明就爱我 时间:10-18 WoS
我想知道我是否可以使用 AIMET 工具对我的 PyTorch 模型进行量化并将其转换为 TFLite 模型。我有一个使用 PyTorch 训练的模型,想将其作为 TFLite 模型部署在设备上。我可
发帖人:超级给力活动小助手 时间:10-18 AI 人工智能
在QCS8550LA的分支代码里, 我们如何使用MM的命令来编译单独的模块?
发帖人:吉吉国民 时间:10-12 IoT 物联网
QCS8550 LE分支如何进行关机,能否帮忙提供关机的命令?
发帖人:家有柯基 时间:10-12 IoT 物联网
使用AIMET训练的时候, 我们在特定情况下没法将量化结果反馈于perf chanel量化的上。
发帖人:维多利亚的拥抱 时间:10-18 AI 人工智能
在 QCS8550 开发板上,使用 NPU 对 llama-v2-7b-chat 进行推理失败。
发帖人:强袭自由高达 时间:10-18 AI 人工智能
在QCS8550中, 能否帮助说明如何从XBL引导加载程序的上下文中路由PWM1生成器来驱动PMIC“RGB_R”输出,输出PWM,以实现自定义引导加载程序LCD面板飞溅/引导徽标显示支持?
发帖人:旺仔QQq糖 时间:10-12 IoT 物联网
我们需要生成一个自定义的splash.img分区文件,其中包含一个OEM引导徽标图像,由QC引导加载程序解析和显示。
发帖人:爱喝味多美 时间:10-12 IoT 物联网
请问 X62+IPQ5018中的SPF 12.1的配置文件在代码的什么地方?
发帖人:下呗子再不磕拉郎 时间:10-12 IoT 物联网
QCS6490P LE Camera基础测试报错
发帖人:兰博金币 时间:10-12 IoT 物联网
WoS平台可以使用微软的onnxruntime进行模型推理吗?能通过SNPE或QNN SDK使用NPU进行加速吗?
发帖人:阿斯兰查拉 时间:10-28 WoS
QCS6490的DSP上运行YoloV8没有办法得到正确的结果,检出的输出几乎都是0, 应该如何解决这个问题啊?
发帖人:美滋滋的 时间:08-23 AI 人工智能
在AIMET的使用中如何对SP卷积增加GPU的支持?
发帖人:超级给力活动小助手 时间:10-28 AI 人工智能
Qualcomm 开发者专区是 Qualcomm 联合CSDN 共同打造的面向中国开发者的技术专区。致力于通过提供全球最新资讯和最多元的技术资源及支持,为开发者们打造全面一流的开发环境。本专区将以嵌入式、物联网、游戏开发、Qualcomm® 骁龙™处理器的软件优化等技术为核心,打造全面的开发者技术服务社区,为下一代高性能体验和设计带来更多的想法和灵感。
加入 Qualcomm 开发者专区