↑: [[G検定に関する知識]]
- 通常の[[RNN]]の勾配消失問題を解決するために設計されたアーキテクチャ
- 「セル状態(Cell State)」という専用の記憶レーンを持つ
- セル状態は情報を長期間保持できる「ハイウェイ」
- 3つのゲートで情報の流れを制御する[[
- [[忘却ゲート]]:不要な過去の記憶を捨てる
- [[入力ゲート]]:新しい情報をセル状態に書き込む
- [[出力ゲート]]:次の層へ渡す値(隠れ状態)を選ぶ
- 学習率の自動調整機能は持たない(それは[[Adam]]などの最適化アルゴリズムの役割)
- [[勾配消失問題]]に強い;長期依存のモデリングが得意
- Transformerが登場するまで、自然言語処理・時系列処理の標準モデル
- cf. [[GRU]], [[RNN]], [[ゲート機構]], [[BPTT]]