<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<oembed>
  <author_name>suzuki-navi</author_name>
  <author_url>https://blog.hatena.ne.jp/suzuki-navi/</author_url>
  <blog_title>suzuki-navi’s blog</blog_title>
  <blog_url>https://suzuki-navi.hatenablog.com/</blog_url>
  <categories>
  </categories>
  <description>名前のついているアルゴリズムの内容をすぐに思い出せるようにするためのメモである。各アルゴリズムの詳細な厳密な説明にはなっていない。 は における微分（勾配）の値とする。 シンプルな最急降下法 モメンタム Nesterov加速法 Adagrad RMSprop Adadelta Adam 自作アルゴリズム シンプルな最急降下法 は x2/y の次元を持った値となる。xやyのスケールによっては0.01だとか100だとかぜんぜん違う値にしないとなかなか降下しない。問題によって適切な値にする必要がある。 モメンタム は0.9みたいな無次元の値。 の調整が必要なのは最急降下法と同じ。 Nesterov加…</description>
  <height>190</height>
  <html>&lt;iframe src=&quot;https://hatenablog-parts.com/embed?url=https%3A%2F%2Fsuzuki-navi.hatenablog.com%2Fentry%2F2020%2F05%2F20%2F134615&quot; title=&quot;勾配降下法のアルゴリズム一覧のメモ - suzuki-navi’s blog&quot; class=&quot;embed-card embed-blogcard&quot; scrolling=&quot;no&quot; frameborder=&quot;0&quot; style=&quot;display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;&quot;&gt;&lt;/iframe&gt;</html>
  <image_url>https://chart.apis.google.com/chart?cht=tx&amp;chl=%20g%28x_t%29%20</image_url>
  <provider_name>Hatena Blog</provider_name>
  <provider_url>https://hatena.blog</provider_url>
  <published>2020-05-20 13:46:15</published>
  <title>勾配降下法のアルゴリズム一覧のメモ</title>
  <type>rich</type>
  <url>https://suzuki-navi.hatenablog.com/entry/2020/05/20/134615</url>
  <version>1.0</version>
  <width>100%</width>
</oembed>
