↑: [[G検定に関する知識]] - [[zk/core/オートエンコーダ|オートエンコーダ]]を生成モデルに発展させた手法 - 通常のAEとの違い：潜在変数を「確定値の点」ではなく「確率分布（平均・分散）」として扱う - エンコーダが出力するもの：潜在変数の平均（μ）と分散（σ²） - 生成プロセス：分布からランダムサンプリング → デコーダで新データ生成 - 損失関数 = 再構成誤差 + [[KLダイバージェンス]]（正則化項） - KLダイバージェンスで潜在空間を標準正規分布に近づける - 潜在空間が連続・滑らかで補間が可能（[[GAN]]と対比される生成モデル） - 学習は**ELBO（変分下限）の最大化**＝再構成誤差＋KL項の最小化。GANのような判別器・敵対的学習は行わない ← ひっかけ - **再パラメータ化トリック**でサンプリングを通して勾配を流す - 派生：**β-VAE**（KL項の重みβ>1でdisentangledな潜在表現を促す）、**VQ-VAE**（潜在を離散コードブックで表現） - 亜種3種（試験では「亜種が3つある」と覚えれば十分） - **β-VAE**: 潜在変数を解釈しやすくする（色・形・大きさを分離するなど） - **VQ-VAE**: 連続値を離散のコードブック（最近傍1つ）に置き換える。Stable Diffusionの前段でも使用 - **InfoVAE**: 潜在空間の情報量を増やす - [[積層オートエンコーダ]] - cf. [[オートエンコーダ]], [[潜在変数]]