Qualcomm最新推出的神经处理引擎

    最近发现Qualcomm推出了一款神经处理引擎，因为好奇就去了解了一下。

    这个比较强势，它可以不依赖云而是依赖平台的异构计算能力在设备上就可以直接跑被训练过的神经网络。这个Neural Processing Engine(NPE) SDK主要是帮助开发者在骁龙移动平台的Caffe/Caffe2或TensorFlow上运行一个或者几个被训练过的神经网络模型.帮助开发者节省时间并且优化在骁龙设备上神经网络的性能。那么它是如何实现这一功能的呢，通过提供用于模型转换和执行的工具以及API来将内核与电源和性能配置文件匹配起来，以匹配所需的用户体验。Snapdragon
NPE支持卷积神经网络和自定义层。

    说了这么多，那这个SDK里都包含哪些内容呢？

    1.神经网络模型在Android和Linux上的运行时间

    2.对 Qualcomm® Hexagon™ DSPs, Qualcomm® Adreno™ GPUs and Qualcomm® Kryo™, CPUs等的支持

    3.对Caffe、Caffe2和TensorFlow中模型的支持。    

    4.提供控制下载、执行、运行时间调度等的接口

    5.用于模型转换的桌面工具

    6.用于瓶颈识别的性能基准测试

    7.简单的代码和教程

    8.html文档

     为了使人工智能开发者开发更容易，NPE SDK没有定义其他的库和网络层，这样开发者就可以更加自由的用他们熟知的带有Caffe/Caffe2和TensorFlow的架构去设计和训练他们的网络，开发流程像下图所示：



设计并训练结束后，模型文件需要转换为“.dlc”文件（Deep Learning Container），这个文件才能被Snapdragon NPE执行。转换工具会有相应的提示，比如不支持的层等，这样开发者就可以调整他们的初始模型了。

    基本的了解有了，那要用这个SDK需要哪些环境和配置呢，将在后面继续了解。