AI_ML_DL https://blog.hatena.ne.jp/AI_ML_DL/ AI_ML_DL’s diary https://ai-ml-dl.hatenablog.com/ Kerasのマニュアルに、次のような記述例がある。 keras.optimizers.Adam(lr=0.001, beta_1=0.9, beta_2=0.999,・・・ こいうのがあると、Adam()もしくは、Adam(lr=1e-3)とするのが普通だと思うが、これは、使っているネットワークによって違ってくるということを知らないと、時間の無駄が生じる。（無駄にした時間は成長の糧、と思ってはいるが・・・） 下に示すようなちょっと重たいCNNについて、学習率の効果を調べてみた。学習率lrは、2e-5から1e-3まで変えてみた。2e-5から5e-4までは進み方の違いはあっても学習はほぼ順調に進ん… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fai-ml-dl.hatenablog.com%2Fentry%2F2019%2F08%2F27%2F113226" title="optimizer - AI_ML_DL’s diary" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/A/AI_ML_DL/20190827/20190827115840.png Hatena Blog https://hatena.blog 2019-08-27 11:32:26 rich https://ai-ml-dl.hatenablog.com/entry/2019/08/27/113226 1.0 100%