Zellij https://blog.hatena.ne.jp/Zellij/ 大人になってからの再学習 https://zellij.hatenablog.com/ 数学 情報 まず最急降下法について。最適化問題の局所的探索法に最急降下法がある。 この最急降下法の考え方は次のような感じ。「最も勾配が急な方向に進みましょう。その方向で一番低い場所に到達したら、進む向きを変えましょう。新しい方向は、その地点で最も勾配が急な方向です。これを繰り返すことで、やがては最も低い点に到着するでしょう。」考え方は単純でわかりやすい。 その性質上、向きを変えるときには、それまでの進行方向と新しい進行方向が直交し、直角にジグザグと進むことになる。下図のような感じ。この楕円が扁平な場合、最急降下法だとジグザグの回数が増えて、なかなか最適解に収束しないという問題がある。 下図のように最適解に… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fzellij.hatenablog.com%2Fentry%2F20120712%2Fp1" title="共役勾配法 - 大人になってからの再学習" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/Z/Zellij/20120712/20120712104008.png Hatena Blog https://hatena.blog 2012-07-12 00:00:00 rich https://zellij.hatenablog.com/entry/20120712/p1 1.0 100%