↑: [[G検定に関する知識]]
- 重みが大きくなりすぎないように制約を加えることで過学習を防ぐ手法
- **過学習の正体は重みの暴走**(細部まで合わせこもうとすると一部の重みが極端に大きくなる)
- やり方:誤差関数にペナルティ項を足す → 重みを小さくすることを同時に学習させる
- 目的:汎化性能を上げること(訓練データへの過剰なフィットを緩和)
- 種類:L0(個数削減)、L1(捨てて絞る)、L2(全部控えめに)、ドロップアウト(DL専用)
- cf. [[L1正則化-G検定]], [[L2正則化-G検定]], [[ラッソ回帰]], [[リッジ回帰]], [[ドロップアウト]], [[過学習-G検定]]