↑: [[深層学習教科書 ディープラーニング G検定（ジェネラリスト）公式テキスト 第3版 (EXAMPRESS)]] - パラメータごとに[[学習率]]を調整するアルゴリズム - あまり更新されていない重みは大きく動かす - 頻繁に更新される重みは小さく動かす - 学習が進むと0に近づき学習が止まってしまう欠点がある - ref [[RMSpropは学習率が0になって止まってしまう問題を解決した最適化アルゴリズム|Rcks]]