深度学习模型常常使用丢弃法(dropout)来应对过拟合问题。
3.13.1 方法
单隐藏层的多层感知机:其中输入个数为4,隐藏单元个数为5,且隐藏单元hih_ihi(i=1,…,5i=1, \ldots, 5i=1,…,5)的计算表达式为
hi=ϕ(x1w1i+x2w2i+x3w3i+x4w4i+bi),h_i = \phi\left(x_1 w{1i} + x_2 w{2i} + x_3 w{3i} + x_4 w{4i} + b_i\right),hi=ϕ(x1w1i+x2w2i+