Hal40n https://blog.hatena.ne.jp/Hal40n/ ゼロからAI理論を再構築する https://serenewealth.net/ 機械学習 前回、RNNは長い系列で勾配消失が起きるため、長期的な依存関係を学ぶのが苦手だという話を書きました。LSTM（Long Short-Term Memory）は、この問題に対処するためにゲート機構を導入したRNNの拡張です。 セル状態という別経路 LSTMが通常のRNNと違うのは、隠れ状態とは別に「セル状態（Cell State）」という経路を持っている点です。 通常のRNNだと、情報は毎ステップ行列演算と活性化関数を通るので、ステップを重ねるうちに劣化していきます。LSTMのセル状態は、この複雑な計算を通さずに情報を次のステップへ流せる経路です。不要な変換を経由しないぶん、勾配が消えにくい。 … 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fserenewealth.net%2Fentry%2F2026%2F03%2F11%2F193217" title="LSTM：忘れる・覚える・取り出すを制御する - ゼロからAI理論を再構築する" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2026-03-11 19:32:17 rich https://serenewealth.net/entry/2026/03/11/193217 1.0 100%