↑: [[G検定に関する知識]] - 強化学習において「方策(行動確率分布)」そのものを直接最適化する手法 - 価値関数([[Q関数]]・[[V関数]])を介さずに方策のパラメータを勾配で更新 - 連続行動空間や行動数が膨大な場合に強みを発揮(ロボット制御・自動運転) - 代表的アルゴリズム - REINFORCE:最もシンプルな方策勾配法 - Actor-Critic:方策勾配 + 価値関数のハイブリッド - PPO(Proximal Policy Optimization):[[OpenAI Five]]で使用 - うまくいった行動の確率を上げ、ダメだった行動の確率を下げる - 連続的な行動(自動運転のハンドル角度など)に対応できる - cf. [[DQN]], [[REINFORCE]], [[アクター・クリティック]], [[強化学習]]