kaeken https://blog.hatena.ne.jp/kaeken/ kaeken(嘉永島健司)ブログ https://kaeken.hatenablog.com/ Deep Learning 4章続き。 学習アルゴリズムの実装 改めて学習とは：適応可能な重みとバイアスを訓練データに適応するように調整すること 学習の４ステップ ステップ１：ミニバッチをランダムに選択 ステップ２：ミニバッチの損失関数を減らす勾配を算出 ステップ３：重みパラメータを勾配方向に微小量だけ更新 ステップ４：ステップ１−３を反復 ミニバッチをランダム選択することから、 確率的勾配下降法(SGD, stochastic gradient descent)と呼ぶ。 ２層ニューラルネットワークのクラスプログラムを参照。今までの総まとめ。 # cat two_layer_net.py # coding: utf-8 … 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fkaeken.hatenablog.com%2Fentry%2F2016%2F11%2F08%2F192325" title="4章ニューラルネットワークの学習　学習アルゴリズムの実装『ゼロから作るDeep Learning』 - kaeken(嘉永島健司)ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/k/kaeken/20161108/20161108192243.png Hatena Blog https://hatena.blog 2016-11-08 19:23:25 rich https://kaeken.hatenablog.com/entry/2016/11/08/192325 1.0 100%