↑: [[G検定に関する知識]] - 同じ系列の中で各要素が他の要素との関係を学ぶAttention - Q・K・Vすべてを同じ入力から生成する - 同じ単語でも文脈(隣の語)によって意味が変わることを捉えられる(例:「明るい性格」と「明るい部屋」) - **並列計算が可能**で離れた語どうしの関係にも強い。Transformerの主役 - cf. [[Attention-G検定]], [[Multi-Head Attention]], [[Transformer]]