aidiary https://blog.hatena.ne.jp/aidiary/ 人工知能に関する断創録 https://aidiary.hatenablog.com/ 機械学習 PRML Courseraの機械学習ネタの続き。前回は、ロジスティック回帰のパラメータ推定（2014/4/15）に共役勾配法（Conjugate Gradient: CG法）を使いました。今回はより複雑なニューラルネット（多層パーセプトロン）のパラメータ推定に共役勾配法を適用してみました。以前、多層パーセプトロンで手書き数字認識の実験をしたとき（2014/2/1）は、共役勾配法ではなく、勾配降下法（Gradient Descent）を用いてパラメータの更新式を自分で書いていました。 self.weight1 -= learning_rate * np.dot(delta1.T, x) self.weig… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Faidiary.hatenablog.com%2Fentry%2F20140522%2F1400763709" title="共役勾配法によるニューラルネットのパラメータ推定 - 人工知能に関する断創録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> http://cdn-ak.f.st-hatena.com/images/fotolife/a/aidiary/20140522/20140522214715.png Hatena Blog https://hatena.blog 2014-05-22 22:01:49 rich https://aidiary.hatenablog.com/entry/20140522/1400763709 1.0 100%