OOM error occurred after having 100k+ train steps about asrt_speechrecognition

[nl8590687]

1.不会呀，我这个时每次随机读取数据的
2.我看到你batch_size设置为112，为什么要设置这么大呢？32就最多了，再大的话在训练中是没用的，跟32条数据所代表的梯度区别不大。

[songmianmian]

您好，请问如何判断得出32条数据所代表的梯度和大于32条数据所代表的梯度区别不大呢？

[nl8590687]

@songmianmian
这个32是图像和计算机视觉领域的各个研究员普遍使用的标准的batch大小，而且有一些文章和课程视频有讲到为什么使用mini-batch梯度下降而不是一次使用所有数据集进行批量梯度下降，而且针对不同的领域应该使用多大的batch最好也有说到，您可以去看一下。
其实语音识别甚至连32都用不到，不过由于我使用的方法借鉴于计算机视觉，所以也建议32

[trainchou]

我来分享一下最新进展，供大家参考：
导入batch_size为112，训练了200k steps的模型，继续用 batch_size 32 进行了一天的训练，目前训练了134k steps，loss从16左右上升到26左右，错误率从20%左右上升到30%-40%，且非常不稳定。
从上述结果看，batch_size 112 貌似比 32 效果好。

[nl8590687]

试试直接从头开始训练？