↑: [[G検定に関する知識]] - モデルのパラメータ数を増やすとテスト誤差が「**減る→増える→再び減る**」現象 - 従来の「過学習するとU字カーブで誤差が上昇し続ける」という常識を覆す - 補間閾値を超えて過剰パラメータ領域に入ると誤差が再び下降する - ResNetなど大規模ディープラーニングで顕著に確認された - セットで覚える3つ - 二重降下現象：パラメータを増やしすぎると再び性能が上がる - [[早期終了]]：検証誤差が悪化し始めた瞬間に学習を止める - [[ノーフリーランチの定理]]：あらゆる問題に最強なアルゴリズムは存在しない