您的位置:首页 > 大数据 > 人工智能

ElitesAI·动手学深度学习PyTorch版学习笔记-文本分类;数据增强;模型微调

2020-03-05 07:13 591 查看

宅家中看到Datawhale的学习号召,在大牛云集的群上找到了一个很佛系的小组,战战兢兢地开始了小白的深度学习之旅。感谢Datawhale、伯禹教育、和鲸科技,感谢课程制作者、组织者、各位助教以及其他志愿者!

2 数据增强
大规模数据集是深度神经网络的成功前提。数据增强(图像增广)技术通过对训练图像进行一系列随机改变来产生相似但又不同的训练样本,从而扩大训练数据集的规模。
常用的图像增广方式有随机裁剪、上下左右翻转、调整亮度、调整色彩等。本课程以图像处理包torchvision为例,讲解了这些常用图像增广方式的实现,以及这些方式的叠加。

3 模型微调
模型微调是在目标数据集上训练目标模型,从头训练输出层,而其余层的参数都是基于源模型的参数微调得到的。它是一种常用的迁移学习的技术, 可以将源数据(预训练模型用来训练的数据集)上学到的知识迁移到目标数据集。当目标数据集远小于源数据集时,微调有助于提升模型的泛化能力。
本课程以热狗识别为例子,使用一个含有数千张图像的小数据集,使用微调后的模型来进行识别。作为对比,同时训练了一个未经微调的模型。可以看出,经过微调的模型,识别准确率可以达到90%以上,而未经微调的模型,准确率只能勉强达到80%。通过实例可以看出,模型微调能够显著提高小数据集的图片识别准确率。

  • 点赞
  • 收藏
  • 分享
  • 文章举报
liuyi6111 发布了8 篇原创文章 · 获赞 0 · 访问量 361 私信 关注
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: