本项目是基于高通新的AI模型推理框架Qualcomm AI Engine Direct SDK,
又名QNN。QNN基于高通的Hexagon处理器,可以使模型推理速度得到巨大提升,这使得在移动端部署推理大模型(AIGC、Stable Diffusion)
成为现实。当然,QNN在使用的过程中也有一些问题,鉴于QNN核心模块是不开源的,且每个反馈issue是得不到及时反馈的,所以很多问题是需要自己慢慢发现的,
本项目旨在记录个人在使用过程中遇到的一些问题,如果能解决的话,会提交一些自己的解决思路,给有需要的朋友一点参考。
本项目不涉及QNN安装使用等基础部分内容,相关内容请参见官方文档。
xiaohong1633/qnn-issue
Folders and files
| Name | Name | Last commit date | ||
|---|---|---|---|---|