derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning MOOC Week4 深層学習による自然言語処理とその応用事例 RNN CNN が画像でよく使われるのと好対照 実際に応用で使われるのは改良版の方、主に LSTM RNN $a_t = W_r h_{t-1} + W_i x_t + b$, $h_t = g(a_t)$ RNN の強み: 可変長のデータ、系列情報の処理 RNN の言語モデル全体像 出力 token 出力層 RNN 中間層 入力ベクトル (embedding) token ID 単語 (token) RNN 発展形 Long Short-Term Memory (LSTM) 分散表現 最後のタイムステップの RNN 中間層の値には、系列全… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2020%2F07%2F02%2F002236" title="ga136(推論・知識処理・自然言語処理)まとめ (4) - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2020-07-02 00:22:36 rich https://randommemory.hatenablog.com/entry/2020/07/02/002236 1.0 100%