↑: [[G検定に関する知識]]
- 単語を多次元の実数ベクトルで表現する方法
- 意味が近い単語は近いベクトルになる
- 代表的な手法:[[word2vec]]
- [[BoW]]との違い:BoWは頻度カウント、分散表現は意味を数値化
- 発展の流れ:静的表現([[word2vec]]:1単語1ベクトル、多義語を区別できない)→ 文脈依存表現([[ELMo]]:双方向LSTM、[[BERT]]:Transformer)
- ワンホットベクトル(次元数=語彙数、スパース)の弱点を克服
- cf. [[word2vec]], [[ELMo]], [[BoW]], [[ワンホットベクトル]]