derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning LSTM に突入。ディープラーニングの場合「何でこういう式なの！？」と考えることにあまり意味はないと思っていて、その因子に関わる入力と出力だけが重要だと思っている。そして、入力と出力の間が一つ或は複数の線形層や畳み込み層と活性化関数で繋げられると。 output ゲート output ゲート、つまり隠れ層の出力を制御する因子としてのゲートは時刻 $t$ での入力 $x_t$ と前回の時刻 $t-1$ での隠れ層の出力 $h_{t-1}$ が関わり、何らかの関数を通して\begin{align*} o = \mathrm{output}(x_t, h_{t-1}) \end{align*}と計算… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2021%2F11%2F03%2F021115" title="ゼロつく 2 (9) - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2021-11-03 02:11:15 rich https://randommemory.hatenablog.com/entry/2021/11/03/021115 1.0 100%