derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning ニューラルネットワーク (3) - らんだむな記憶で記載した \begin{equation} \mathrm{Cost}(h_\Theta(x)_k,\ y_k) = -y_k \log(h_\Theta(x)_k) - (1 - y_k)\log(1 - h_\Theta(x)_k),\ 1 \le k \le K \end{equation} のようなやつは交差エントロピー(cross entropy)と呼ぶんだな。 まぁ、確かに、情報理論のエントロピー $-p \log p$ みたいなやつががっちゃんこしていて、$y_k \in \{0,\ 1\}$がどっちの値をとるかで片方だけが生き… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2015%2F09%2F27%2F181637" title="交差エントロピー - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2015-09-27 18:16:37 rich https://randommemory.hatenablog.com/entry/2015/09/27/181637 1.0 100%