↑: [[G検定に関する知識]] - [[ラベルなしデータ]]に対して自動生成した[[擬似ラベル]]やタスクを用いて[[特徴]]を学習する - システム自身が擬似的に政界を作り出して[[特徴]]を学習する - アノテーションの手間を省くことが[[自己教師あり学習]]の最大のメリット - 現代の最先端AIにおける[[事前学習]]の主流な手法 - [[ラベルなしデータ]]を活用するために考案された - 代表タスク：文中の単語を隠して当てる**マスク予測**（BERT）、**次トークン予測**（GPT） - 得た汎用表現を少量のラベルありデータでファインチューニングし、少数ショット（Few-shot）状況でも高精度を出せる - [[半教師あり学習]]（少量ラベルあり＋大量ラベルなしを併用）とは別の枠組み - 文章：穴埋め（マスクされた単語を予測）→ BERTの事前学習 - 画像：隠した部分を当てさせる - BERTもGPTもこの仲間 - cf. [[半教師あり学習]], [[事前学習]]