↑: [[G検定に関する知識]]
- 未来の報酬を割り引くための係数γ(0〜1)
- 先の報酬ほどγを掛けた分だけ小さく評価する(未来は不確実なため)
- γが小さいと目先重視、大きいと長期視点になる
- 実用では0.9〜0.99あたりがよく使われる
- cf. [[強化学習]] [[マルコフ決定過程]]
- 累積割引報酬 G = r₀ + γr₁ + γ²r₂ + …。無限に続く報酬和を有限に収束させる効果もある
- γ=1は無限ホライズンで発散しうるため標準ではない。γ=0のとき初めて即時報酬のみの最大化になる(γ<1で将来報酬が「完全に無視」されるわけではない)← 重要
- 学習率α(更新幅)や正則化パラメータとは別概念 ← ひっかけ