quanta087 https://blog.hatena.ne.jp/quanta087/ 不確定な世界 https://quanta087.hatenablog.jp/ 人工知能 読書 前回から引き続き、「ゼロから作るDeep Learning」の読書メモ。 ４章 ニューラルネットワークの学習 損失関数 ２乗差誤差はわかりやすいが、交差エントロピー誤差は直感的に意味を把握しにくい。しかしソフトマックス関数と組み合わせて使うことを考慮に入れると、幾分か理解が進んだ。 第３章で学んだ通り、ソフトマックス関数は確率を出力する。確率のlogを取るとエントロピーと呼ばれる量になるのは情報理論の基礎中の基礎だが、考えてみると誤差とエントロピーは非常に似た概念なのだ。 情報エントロピーはよく「何かデータを得た時の驚き具合」のことだと説明される。正解ラベルを提示されたとき、元々「これが答えで… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fquanta087.hatenablog.jp%2Fentry%2F2017%2F06%2F20%2F224709" title=" 「ゼロから作るDeep Learning」を読んだ（後編） - 不確定な世界" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://images-fe.ssl-images-amazon.com/images/I/512ru2i5gyL._SL320_.jpg Hatena Blog https://hatena.blog 2017-06-20 22:47:09 rich https://quanta087.hatenablog.jp/entry/2017/06/20/224709 1.0 100%