您的位置：首页 > 其它

DL的若干tricks

2016-03-21 23:58 127 查看
原文在这Must Know Tips/Tricks in Deep Neural Networks，我只是记录，以免忘记。。。

拿CNN做图像举例

1.尽可能的扩展数据集(Ng课上讲过如何空手把dataset扩展10倍的故事)

2.做好数据预处理(如图像whitening)

3.好的初始化参数

4.卷积核/学习速率调整

5.激活函数(主流还是relu)

6.规则化(大多还是用dropout)

7.训练performence可视化(更容易看出问题)

8.同一个模型或同一个数据集多尝试训练几次。

这些条约很多内容基本上时公认的，不少DL开源框架已经将上述问题调整到最优
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 点击这里给我发消息
标签： 
相关文章推荐
新的分享
章节导航