↑: [[G検定に関する知識]] - OpenAI発のTransformerデコーダ型言語モデル(GPT-1〜GPT-4系列) - 左から右へ次の単語を順番に予測する自己回帰型生成 - 「生成系タスク」(文章生成・要約・翻訳)に強い - ChatGPTはGPTをチャット用にRLHFでファインチューニングしたもの - 巨大化したものがLLM(大規模言語モデル)の代表例 - cf. [[BERT]], [[ChatGPT]], [[LLM]], [[Transformer]]