深層学習において、学習の安定性や収束速度を高めるために使われる「正規化手法」。 その代表例が Batch Normalization(バッチ正規化) と Layer Normalization(レイヤー正規化) です。 本記事では、これらの正規化手法の違いや使用場面、そして覚えておきたい ...
Yao, Zhuliang, et al. "Cross-iteration batch normalization." Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2021. BN(バッチ正規化)は,ディープラーニングの学習を高速化・安定化させる重要な技術. ...