↑: [[G検定に関する知識]] - 通常の[[RNN]]の勾配消失問題を解決するために設計されたアーキテクチャ - 「セル状態(Cell State)」という専用の記憶レーンを持つ - セル状態は情報を長期間保持できる「ハイウェイ」 - 3つのゲートで情報の流れを制御する[[ - [[忘却ゲート]]:不要な過去の記憶を捨てる - [[入力ゲート]]:新しい情報をセル状態に書き込む - [[出力ゲート]]:次の層へ渡す値(隠れ状態)を選ぶ - 学習率の自動調整機能は持たない(それは[[Adam]]などの最適化アルゴリズムの役割) - [[勾配消失問題]]に強い;長期依存のモデリングが得意 - Transformerが登場するまで、自然言語処理・時系列処理の標準モデル - cf. [[GRU]], [[RNN]], [[ゲート機構]], [[BPTT]]