↑: [[G検定に関する知識]] - 情報の損失を抑えつつ変数(次元)を削減する**次元削減**手法 - **分散が最大となる方向**を主成分(新しい軸)として抽出する - 主成分同士は**直交・無相関**(相関係数が0) - **教師なし学習**(正解ラベル不要) - クラスタリング手法ではなく次元削減手法 - データを低次元に圧縮するため可視化にも使える - 共分散行列の**固有値分解**で解析的に最適解(閉形式)が求まる。オートエンコーダは勾配降下法の反復最適化が必要 - **線形変換のみ**なので、曲面・多様体上の非線形データの圧縮は苦手。非線形はReLU等を持つオートエンコーダが得意(「PCAが非線形に強い」は逆)← ひっかけ - 線形(恒等)活性化のみのオートエンコーダはPCAと等価な部分空間を学習する - 対比:[[t-SNE]]=局所構造を保つ非線形の可視化手法 / SVD=PCAの数学的基礎(線形射影そのものを指す語ではない) - 第1主成分:最も分散が大きい方向、第2主成分:それと直交する方向 - cf. [[次元削減]], [[特異値分解]], [[t-SNE]]