↑: [[G検定に関する知識]]
- 出力を-1〜+1に押し込めるS字型の活性化関数
- シグモイド関数と形は似ているが、原点を中心に対称
- 出力が0を中心にしているため、次の層に偏った値が伝わりにくい(シグモイドより有利)
- かつてシグモイドの代わりに隠れ層で使われていた
- **弱点:勾配消失はシグモイドと同様に起こる**
- cf. [[活性化関数]], [[シグモイド関数]], [[勾配消失問題]]
- ひっかけ:「シグモイドの勾配消失を完全に解消した改良版で、現代の深いネットワークの隠れ層でも標準」は誤り。飽和は残り、現代の隠れ層は**ReLU系**が標準