Gasyou https://blog.hatena.ne.jp/Gasyou/ GA将？開発日記～王理のその先へ～ https://gasyou.hatenablog.jp/ 開発日記 今までは学習率固定だったんですが、これを可変にしてみました。ちょっとでも収束速くならないかと思って。 んで、どうやって下げてけば良いか不明なんで、とりあえず初期値を0.1から始めて、20万局かけて0.001まで下げ、その後は0.001固定ってやってみました。 これである程度うまく行きそうなら、その後は正則化（正規化？）を入れてみようと思います。 正則化の方も正則化係数の調整が必要なんですが、学習用マシンが8並列なんで、8通りのパラメータで並行して走らせて*1、ベストのやつを採用しようと思います。 *1:現状の学習ルーチンはシングルスレッドなので。 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fgasyou.hatenablog.jp%2Fentry%2F20110522%2F1306071278" title="学習率を可変に - GA将？開発日記～王理のその先へ～" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2011-05-22 22:34:38 rich https://gasyou.hatenablog.jp/entry/20110522/1306071278 1.0 100%