↑: [[G検定に関する知識]]
- 強化学習における「探索と活用のジレンマ」を表す問題の枠組み
- 探索(Exploration):未知の選択肢を試す / 活用(Exploitation):既知のベストを選ぶ
- どちらかに偏ると損をする → バランスを取る手法が必要
- 代表的な戦略:ε-greedy方策・UCB方策
- 応用:広告配信・推薦システム・ABテスト
- cf. [[ε-greedy方策]] [[UCB方策]] [[強化学習]]
- 目的は**累積報酬の最大化**。全アームを均等に試して真の報酬分布を正確に推定することが目的ではない(均等試行は無駄な探索コスト)← ひっかけ
- MDPとの関係:状態遷移がない(状態が1つだけの)MDPの特殊ケース
- 代表手法:ε-greedy(εを徐々に減らす**ε-decay**で探索→活用へ移行)/ UCB(不確実性の上界を加えて選択)/ **Thompson Sampling**(報酬分布の事後分布からサンプリング)。いずれも後悔(regret)を抑える