derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning 簡単のため、以下のような分類問題のニューラルネットワークで誤差逆伝播法を考察する。 入力層は $x_1$, $x_2$ の2つの入力を受け取り、隠れ層で活性化関数としてsigmoid関数 $\varsigma$ を適用し、出力層でsoftmax関数で確率をとる。ラベルはone-hotエンコーディングされているものとし、誤差関数 $E$ には交差エントロピー関数 $E(w) = -t_1 \log(y_1) - t_2 \log(y_2)$ を用いる。ある学習データ $x$ とラベル $t$ を入力した場合の勾配の計算を見る。ここでは $\frac{\del E}{\del w_{11}^{(1… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2019%2F09%2F23%2F224031" title="誤差逆伝播法について再び考えてみる(4) - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/d/derwind/20190923/20190923222948.png Hatena Blog https://hatena.blog 2019-09-23 22:40:31 rich https://randommemory.hatenablog.com/entry/2019/09/23/224031 1.0 100%