↑: [[G検定に関する知識]]
- 入力を複数の層を飛び越えて後段の層に直接足す(加算する)接続
- 勾配消失問題を緩和し超深層ネットワークを可能にする
- [[ResNet]]で導入された
- [[DenseNet]]との違い
- スキップ結合([[ResNet]]):**加算(Add)**
- Dense結合([[DenseNet]]):**結合(Concat)**
- 層の入力xを、その層の出力F(x)に直接足す接続。出力 = F(x) + x
- 別名:残差結合(差分を学ぶ側から見た名前)、恒等接続(そのまま通す側から見た名前)、Residual Connection
- 劣化問題(深くするほど精度が下がる現象)を解決するために考案された
- 層は変化した分(残差)だけを学べばよいため学習が容易になる(残差学習)
- cf. [[劣化問題]], [[残差学習]], [[ResNet]]