AI_ML_DL https://blog.hatena.ne.jp/AI_ML_DL/ AI_ML_DL’s diary https://ai-ml-dl.hatenablog.com/ 昨日、最近作ったCNNモデルのファイルが壊れて、同じモデルの少し古いファイルをベースにして、新しいモデルに書き換えて計算したら、val_accの値が0.80から0.82に上がった。 このモデルは0.80が限界で、改善の方向が見えなくなっていただけに、小さいけど、大きな変化で、非常に嬉しかった。原因を調べてみると、なんと、optimizerが、優先的に使うようにしていたAdamではなく、RMSpropのままだったのである。 100エポックまでの残差とaccのグラフを見ると、Adamは、RMSpropよりも早くoverfittingの状態になっていたのである。今回は、Adamがうさぎ、RMSpro… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fai-ml-dl.hatenablog.com%2Fentry%2F2019%2F09%2F04%2F234006" title="optimizerについて - AI_ML_DL’s diary" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/A/AI_ML_DL/20190904/20190904233858.png Hatena Blog https://hatena.blog 2019-09-04 23:40:06 rich https://ai-ml-dl.hatenablog.com/entry/2019/09/04/234006 1.0 100%