Gasyou https://blog.hatena.ne.jp/Gasyou/ GA将？開発日記～王理のその先へ～ https://gasyou.hatenablog.jp/ 開発日記 今日はあまり時間が無いのでサクっと出来る事をやりました。 ニューラルネットワークを真似て慣性項を追加。目的は局所最適解の回避と学習の高速化です。 要するに、今までは重みWiを Wi = Wi + d って形で、適当に計算した修正量dずつ修正していたのですが、直前の修正時のdを覚えておいて、Wi = Wi + d + α * d_old って感じで修正する様にしました。 多分、物が坂を落ちる時の慣性と似てるからこういう名前なんでしょうね。 あ、αは0より大きく1より小さい値で、今回は0.8にしました。この値、適当です。 ついでに学習率も二桁ほど小さくしてみて、慣性項の有り無しでどの程度学習結果に… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fgasyou.hatenablog.jp%2Fentry%2F20070315%2F1173968372" title="慣性項の追加 - GA将？開発日記～王理のその先へ～" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2007-03-15 23:19:32 rich https://gasyou.hatenablog.jp/entry/20070315/1173968372 1.0 100%