【李宏毅2021机器学习深度学习】2-1 Phoneme Classification【hw2】
·
文章目录
- 写在前面
- 标准
- 提示:
- 实验记录:
- 1. Sample code
- 2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
- 3. (overfitting)make model simpler(直接去掉第三层全连接层)
- 4. batch_size直接改为512
- 5. lr = 0.001(默认参数)
- 6. 修改model->256, batch_size修改为1024
- 7. 网络从1024->256
- 8. 512->128
写在前面
早期的调参记录无任何经验,直接参考最新的
标准

提示:

实验记录:

1. Sample code

2. 数据归一化,添加了BN,大的batch_size由64改为128,修改激活函数为Relu,添加plot_learning_curve工具看loss曲线,
早停策略【hw1】不错,这里没加

3. (overfitting)make model simpler(直接去掉第三层全连接层)


4. batch_size直接改为512

5. lr = 0.001(默认参数)

6. 修改model->256, batch_size修改为1024
7. 网络从1024->256

8. 512->128

更多推荐
所有评论(0)