深度学习中使用的batchsize, step(iteration), epoch 含义以及其关系

2020-09-10 11:16:00 浏览数 (1)

变量

含义

epoch

一个epoch表示所有训练样本运算学习一遍

iteration/step

表示每运行一个iteration/step,更新一次参数权重,即进行一次学习,每一次更新参数需要batch size个样本进行运算学习,根据运算结果调整更新一次参数。

batch size

1次迭代所使用的样本量

其关系为:

iteration=frac{exampleNums * epoch}{batch size}

举例: 假设有20000个样本,batch size 为200,epoch为1, 则

iteration=frac{20000 * 1}{200}=100

0 人点赞