↑: [[G検定に関する知識]]
- 情報の損失を抑えつつ変数(次元)を削減する**次元削減**手法
- **分散が最大となる方向**を主成分(新しい軸)として抽出する
- 主成分同士は**直交・無相関**(相関係数が0)
- **教師なし学習**(正解ラベル不要)
- クラスタリング手法ではなく次元削減手法
- データを低次元に圧縮するため可視化にも使える
- 共分散行列の**固有値分解**で解析的に最適解(閉形式)が求まる。オートエンコーダは勾配降下法の反復最適化が必要
- **線形変換のみ**なので、曲面・多様体上の非線形データの圧縮は苦手。非線形はReLU等を持つオートエンコーダが得意(「PCAが非線形に強い」は逆)← ひっかけ
- 線形(恒等)活性化のみのオートエンコーダはPCAと等価な部分空間を学習する
- 対比:[[t-SNE]]=局所構造を保つ非線形の可視化手法 / SVD=PCAの数学的基礎(線形射影そのものを指す語ではない)
- 第1主成分:最も分散が大きい方向、第2主成分:それと直交する方向
- cf. [[次元削減]], [[特異値分解]], [[t-SNE]]