权重初始化与学习率调度
正在加载 PDF…
分别使用 VGG-19 和 ResNet-34,比较初始化方法与学习率调度对深度网络训练的影响。
主要观察
报告记录了不同初始化下的训练差异,并比较固定学习率、衰减调度与循环学习率。
范围与限制
两组实验使用不同网络与设置;各方法的优劣仅限于对应实验条件。
来源
查看原始来源及其版本作为历史实验记录保留,软件、条件和观察结果以原报告所记载的实验为准。
正在加载 PDF…
分别使用 VGG-19 和 ResNet-34,比较初始化方法与学习率调度对深度网络训练的影响。
报告记录了不同初始化下的训练差异,并比较固定学习率、衰减调度与循环学习率。
两组实验使用不同网络与设置;各方法的优劣仅限于对应实验条件。
作为历史实验记录保留,软件、条件和观察结果以原报告所记载的实验为准。