深度学习中关于epoch的几个词汇的理解
2017-11-17 17:10
337 查看
(1)iteration:表示1次迭代,每次迭代更新1次网络结构的参数;
(2)batch_size:1次迭代所使用的样本量;
(3)epoch:1个epoch表示过了1遍训练集中的所有样本。
需要补充的是,在深度学习领域中,常用随机梯度下降算法(Stochastic Gradient Descent, SGD)训练深层结构,它有一个好处就是并不需要遍历全部的样本,当数据量非常大时十分有效。此时,可根据实际问题来定义epoch,例如定义10000次迭代为1个epoch,若每次迭代的batch_size设为256,那么1个epoch相当于过了2560000个训练样本。
(2)batch_size:1次迭代所使用的样本量;
(3)epoch:1个epoch表示过了1遍训练集中的所有样本。
需要补充的是,在深度学习领域中,常用随机梯度下降算法(Stochastic Gradient Descent, SGD)训练深层结构,它有一个好处就是并不需要遍历全部的样本,当数据量非常大时十分有效。此时,可根据实际问题来定义epoch,例如定义10000次迭代为1个epoch,若每次迭代的batch_size设为256,那么1个epoch相当于过了2560000个训练样本。
相关文章推荐
- 深度学习中关于epoch的几个词汇的理解
- 关于深度学习中的Batch normalization的理解
- [6]深度学习和Keras---- 深度学习中的一些难理解的基础概念:softmax, batch,min-batch,iterations,epoch,SGD
- 关于深度学习中Dropout的理解
- 深度译文:机器学习那些事 关于自己的理解
- 关于深度学习自编码器理解
- 关于深度学习中Dropout的理解
- 深度学习中关于 “深度” 的理解
- 几个概念——关于人工智能、大数据、深度学习
- java学习,关于接口理解,实例分析
- Deep learning学习笔记(1)——对深度学习的理解
- 【深度学习】入门理解ResNet和他的小姨子们(二)---DenseNet
- 关于数据库SQLite的学习与理解
- 深度学习深理解(三)-浅层神经网络
- 深度学习GPU卡的理解(二)
- 关于*大学计算机科学与技术学院的大一学生几个关于Linux学习方面的疑惑之回复
- 深度学习 14. 深度学习调参,CNN参数调参,各个参数理解和说明以及调整的要领。underfitting和overfitting的理解,过拟合的解释。
- java学习中关于接口的理解
- Android关于looper的几个方法的个人理解
- 深度学习与卷积神经网络(直观理解)