↑: [[G検定に関する知識]]
- データの次元(特徴量の数)が増えるほど必要なデータ量や計算量が指数関数的に増大する問題
- [[グリッドサーチ]]:パラメータ次元が増えると組み合わせが爆発する
- k近傍法など距離ベースの手法も高次元で機能しにくくなる
- 本質は**必要サンプル数の指数的増大とデータの希薄化(スパース化)**。計算時間の線形増加・過学習・勾配消失とは別概念 ← ひっかけ
- 高次元では任意の2点間距離が均一化し、k近傍法やクラスタリングなど距離ベース手法が機能しにくくなる
- 対処:PCA・オートエンコーダによる次元削減、特徴選択、正則化
- リチャード・ベルマン(Richard Bellman)が命名
- 高次元空間ではデータが非常に疎(まばら)になり、学習が困難になる
- cf. [[特徴量エンジニアリング]], [[機械学習]]