↑: [[G検定に関する知識]]
- 「Yes/No」の分岐を繰り返して分類・回帰を行うアルゴリズム
- **解釈性が高い**(ホワイトボックスモデル):なぜその予測になったかが人間に説明しやすい
- 分類木・回帰木の両方に使える
- 木を深くしすぎると**過学習**しやすい
- 剪定(Pruning):不要な枝を切り落としてモデルを単純化し過学習を防ぐ
- **深くするほど汎化性能が向上するわけではない**(深くしすぎると過学習)
- 分岐基準:**ジニ不純度**・**情報利得**(エントロピーの減少量)を最大化する特徴量と閾値を貪欲法で選択
- 剪定の2種:事前剪定(最大深さ・葉の最小サンプル数などの制約)と事後剪定(育てた木の枝を削る)
- 単一木の弱点は[[ランダムフォレスト]]などのアンサンブルで補う
- Yes/Noの分岐でデータを分類していくモデル(1980年代)
- 構造がフローチャートそのもの → **解釈性(説明性)が高い**
- 「なぜその判断をしたか」を人間がたどれる
- 代表実装:ID3(キンラン 1986)、CART(ブライマン 1984)
- cf. [[アンサンブル学習]], [[ランダムフォレスト]]