↑: [[G検定に関する知識]] - OpenAIが開発したTransformerベースの言語モデル - **自己回帰型**：過去の単語列から次の単語を予測して生成する - **Transformerのデコーダのみ**で構成 - 文脈を**一方向（左→右）**に読む - 文章生成・要約・翻訳など生成系タスクに強い - [[BERT]]との対比 - GPT：デコーダのみ・一方向・生成タスクに強い - BERT：エンコーダのみ・双方向・理解タスクに強い