derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning LSTM を重ねたり、間にドロップアウトを入れたり、学習率を perplexity に合わせて減らしたりすることで精度が上がるとのこと。このくらいまで来るととても CPU で訓練してられないので Colab 上で K80 を使う。それでも遅い。 | epoch 1 | iter 1001 / 1327 | time 299[s] | perplexity 216.30くらいが 3 分時点での進捗。完了の見積もりをざっくりと計算すると 299 * 1327/1001 * 40 / 3600 4.404184704184704 なので、5 時間ほどで完了すると本に書いてあるのは正しそう。 図 6-… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2021%2F11%2F03%2F225443" title="ゼロつく 2 (10) - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2021-11-03 22:54:43 rich https://randommemory.hatenablog.com/entry/2021/11/03/225443 1.0 100%