yusuke_ujitoko https://blog.hatena.ne.jp/yusuke_ujitoko/ 緑茶思考ブログ https://yusuke-ujitoko.hatenablog.com/ 機械学習 Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift arXiv:https://arxiv.org/abs/1502.03167 Internal Covariance Shiftの問題 ニューラルネットワークでは，入力となるデータの分布が白色化されていると学習が早く進む． 特徴を無相関化し，平均0，分散1とすることは画像処理では特によく行う． しかし，階層的なニューラルネットでは，入力層での入力データが白色化されていたとしても， 重みパラメータは更新されていく… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fyusuke-ujitoko.hatenablog.com%2Fentry%2F2017%2F06%2F17%2F164545" title="BatchNormalizationの初出論文メモ - 緑茶思考ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/y/yusuke_ujitoko/20170616/20170616154548.png Hatena Blog https://hatena.blog 2017-06-17 16:45:45 rich https://yusuke-ujitoko.hatenablog.com/entry/2017/06/17/164545 1.0 100%