↑: [[G検定に関する知識]] - 層の入力xを、その層の出力F(x)に直接足す接続。出力 = F(x) + x - 別名：残差結合（差分を学ぶ側から見た名前）、恒等接続（そのまま通す側から見た名前）、Residual Connection - 劣化問題（深くするほど精度が下がる現象）を解決するために考案された - 層は変化した分（残差）だけを学べばよいため学習が容易になる（残差学習） - ResNetで導入され、超深層ネットの基幹技術に。TransformerのAdd & Normにも採用 - cf. [[劣化問題]], [[残差学習]], [[ResNet]]