↑: [[G検定に関する知識]] - 出力を生成するたびに、入力系列のどこに注目するかを学習で決める仕組み（日本語: 注意機構） - 入力の各要素に0〜1の**注意重み（Attention Weight）**を付与し、合計が1になるよう正規化 - 固定長ベクトルに情報を詰め込まず、必要な部分を直接参照するためSeq2Seqの長文問題を解消 - Q・K・Vの3要素で構成: cf. [[クエリ・キー・バリュー]] - 種類: [[Source-Target Attention]]（違う系列間）, [[Self-Attention-G検定]]（同じ系列内） - cf. [[Seq2Seq-G検定]], [[Multi-Head Attention]], [[Transformer]]