深度网络推理加速(Towards Lightweight Convolutional Neural Networks for Object Detection)
2018-01-09 13:56
721 查看
摘要:本文研究目标是少类别实时目标检测,研究了在保留较高检测率的前提下最大程度的减小模型大小,最终实现了在CPU上的实时检测。本文的推理加速机制和量化压缩等方法是可以并行的。
1, 通过增大feature map的尺寸,减小通道数可以得到准确率且快的检测模型,这么做的依据是对于实际的很少类别的目标检测问题,用于解决多类别分类问题的网络中很多通道是冗余的。
2, 通过在大的预训练模型上简单的选取一些通道,然后在给定的数据集上fine-tune。
3, 直接的一层层Resnet网络架构比复杂的架构效果更好。
4, 本文提出了一个高精度的vehicle检测模型,在CPU上获得了34fps的实时性。
四种特征提取网络
相关工作:
网络推理优化有两种方法:
一是依赖硬件的优化,如quantization和sparsifying,需要依赖于硬件的定制化支持,quantization依赖于低比特操作,而权重剪枝依赖于稀疏计算。
二是不依赖硬件的优化,如Decomposition,channels pruning
1. 网络选择
当前流行的两种目标检测算法:SSD、Faster R-CNN, 其中SSD有着最好的quality/speed trade-off
2. 特征提取网络
比较了ResNet10、SqueezeNet、MobileNet、PVANet四种轻量级特征网络。
3. 空洞卷积
采用了空洞卷积,同时我们还进行了通道采样。
1, 通过增大feature map的尺寸,减小通道数可以得到准确率且快的检测模型,这么做的依据是对于实际的很少类别的目标检测问题,用于解决多类别分类问题的网络中很多通道是冗余的。
2, 通过在大的预训练模型上简单的选取一些通道,然后在给定的数据集上fine-tune。
3, 直接的一层层Resnet网络架构比复杂的架构效果更好。
4, 本文提出了一个高精度的vehicle检测模型,在CPU上获得了34fps的实时性。
四种特征提取网络
相关工作:
网络推理优化有两种方法:
一是依赖硬件的优化,如quantization和sparsifying,需要依赖于硬件的定制化支持,quantization依赖于低比特操作,而权重剪枝依赖于稀疏计算。
二是不依赖硬件的优化,如Decomposition,channels pruning
1. 网络选择
当前流行的两种目标检测算法:SSD、Faster R-CNN, 其中SSD有着最好的quality/speed trade-off
2. 特征提取网络
比较了ResNet10、SqueezeNet、MobileNet、PVANet四种轻量级特征网络。
3. 空洞卷积
采用了空洞卷积,同时我们还进行了通道采样。
相关文章推荐
- READING NOTE: PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- 读书笔记PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- [Paper note] PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- PVANET----Deep but Lightweight Neural Networks for Real-time Object Detection论文记录
- PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection - arxiv 2016.08
- 多尺度R-CNN论文笔记(4): PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- 论文笔记:PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- 【深度学习论文笔记:Recognition】:Deep Neural Networks for Object Detection
- tensorfolw配置过程中遇到的一些问题及其解决过程的记录(配置SqueezeDet: Unified, Small, Low Power Fully Convolutional Neural Networks for Real-Time Object Detection for Autonomous Driving)
- 目标检测--PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- 论文阅读--PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- 目标检测--PVANET: Deep but Lightweight Neural Networks for Real-time Object Detection
- Deep Neural Networks for Object Detection论文翻译
- DeepID-Net:multi-stage and deformable deep convolutional neural network for object detection
- Fast R-CNN: Fast Region-based Convolutional Networks for object detection(阅读)
- CNN网络量化 - Quantized Convolutional Neural Networks for Mobile Devices
- READING NOTE: Spatially Supervised Recurrent Convolutional Neural Networks for Visual Object Trackin