ElitesAI·动手学深度学习PyTorch版学习笔记-文本分类;数据增强;模型微调
2020-03-05 07:13
591 查看
宅家中看到Datawhale的学习号召,在大牛云集的群上找到了一个很佛系的小组,战战兢兢地开始了小白的深度学习之旅。感谢Datawhale、伯禹教育、和鲸科技,感谢课程制作者、组织者、各位助教以及其他志愿者!
2 数据增强
大规模数据集是深度神经网络的成功前提。数据增强(图像增广)技术通过对训练图像进行一系列随机改变来产生相似但又不同的训练样本,从而扩大训练数据集的规模。
常用的图像增广方式有随机裁剪、上下左右翻转、调整亮度、调整色彩等。本课程以图像处理包torchvision为例,讲解了这些常用图像增广方式的实现,以及这些方式的叠加。
3 模型微调
模型微调是在目标数据集上训练目标模型,从头训练输出层,而其余层的参数都是基于源模型的参数微调得到的。它是一种常用的迁移学习的技术, 可以将源数据(预训练模型用来训练的数据集)上学到的知识迁移到目标数据集。当目标数据集远小于源数据集时,微调有助于提升模型的泛化能力。
本课程以热狗识别为例子,使用一个含有数千张图像的小数据集,使用微调后的模型来进行识别。作为对比,同时训练了一个未经微调的模型。可以看出,经过微调的模型,识别准确率可以达到90%以上,而未经微调的模型,准确率只能勉强达到80%。通过实例可以看出,模型微调能够显著提高小数据集的图片识别准确率。
- 点赞
- 收藏
- 分享
- 文章举报
相关文章推荐
- 动手学深度学习 Task08:文本分类;数据增强;模型微调
- 动手学深度学习-文本分类;数据增强;模型微调
- 文本情感分类:深度学习模型(2)
- MXNet动手学深度学习笔记:模型参数保存与读取
- 学习笔记(04):深度学习之图像识别 核心技术与案例实战-分类数据
- 文本情感分类:深度学习模型(2)
- 深度学习Caffe实战笔记(21)Windows平台 Faster-RCNN 训练好的模型测试数据
- TensorFlow深度学习笔记 文本与序列的深度模型
- 文本情感分类(二):深度学习模型
- Caffe深度学习入门—— caffenet 微调网络 训练自己的数据并测试训练的模型
- 文本情感分类(二):深度学习模型
- 文本情感分类:深度学习模型
- Google深度学习笔记 文本与序列的深度模型
- 【深度学习】笔记6:使用caffe中的CIFAR10网络模型和自己的图片数据训练自己的模型(步骤详解)
- caffe19 《深度学习--Caffe之经典模型详解与实战》笔记01 分类测试python调用
- 动手学深度学习-线性回归;Softmax与分类模型;多层感知机
- 深度学习笔记三:单神经元二分类模型图的构建
- 动手学深度学习 Task02:文本预处理;语言模型;循环神经网络基础
- 文本情感分类(二):深度学习模型
- 深度学习与文本分类总结第一篇--常用模型总结