↑: [[G検定に関する知識]] - Contrastive Language-Image Pre-Training(OpenAI開発) - 画像と文章を同時に学習する事前学習済みモデル - 「この画像にはこのテキストが対応する」という対照学習で両方を統合的に理解 - 画像生成(DALL-E等)や画像検索・ゼロショット分類の基盤として使われる - 構成:画像エンコーダ(ResNet/ViT)とテキストエンコーダ(Transformer)を別々に持ち、共通の埋め込み空間に揃える - 学習:バッチ内N組でN×Nの類似度行列を作り、正しいペアのコサイン類似度を上げ・誤ったペアを下げる(**InfoNCE損失**) - ゼロショット推論:クラス名を「a photo of a {class}」のようなプロンプトでベクトル化し、画像ベクトルと最も類似度が高いクラスを選ぶ - ひっかけ:敵対的学習(GAN)・自己回帰(GPT)ではなく**対照学習**。少数例を使うフューショットではなく**ゼロショット** ← 重要 - ゼロショット画像分類が可能(ラベルなしで分類できる) - cf. [[事前学習]], [[転移学習]], [[生成AI]], [[対照学習]], [[DALL-E]], [[Stable Diffusion]], [[ゼロショット学習]]