<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<oembed>
  <author_name>derwind</author_name>
  <author_url>https://blog.hatena.ne.jp/derwind/</author_url>
  <blog_title>らんだむな記憶</blog_title>
  <blog_url>https://randommemory.hatenablog.com/</blog_url>
  <categories>
    <anon>machine_learning</anon>
  </categories>
  <description>Getting nan as loss when I use SGD as the optimization algorithm of my CNN model? - PyTorch Forums ちょwwwPyTorchでnanが出て困ってるんだがww【解決してやるよ】 - Qiita どうも学習データを正規化していない場合に起こることかもしれないが、loss が blow up して NaN になってしまうことがあるように感じる。たまたま optim.SGD で遭遇したが、optim.Adam にするだけで解消した。色々分からんな・・・。</description>
  <height>190</height>
  <html>&lt;iframe src=&quot;https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2020%2F06%2F13%2F222633&quot; title=&quot;PyTorchでlossがnanに - らんだむな記憶&quot; class=&quot;embed-card embed-blogcard&quot; scrolling=&quot;no&quot; frameborder=&quot;0&quot; style=&quot;display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;&quot;&gt;&lt;/iframe&gt;</html>
  <image_url></image_url>
  <provider_name>Hatena Blog</provider_name>
  <provider_url>https://hatena.blog</provider_url>
  <published>2020-06-13 22:26:33</published>
  <title>PyTorchでlossがnanに</title>
  <type>rich</type>
  <url>https://randommemory.hatenablog.com/entry/2020/06/13/222633</url>
  <version>1.0</version>
  <width>100%</width>
</oembed>
