kitanokumo https://blog.hatena.ne.jp/kitanokumo/ studylog/北の雲 https://studylog.hateblo.jp/ nlp 最近RNNを使ってのテキスト生成で遊んでます。 色んなやり方があるのでメモ。呼び名は適当に命名しています。 ○はRNNに与える単語で、?が予想して出力する単語。 1.順生成 ○○○○○○?最も一般的。文章の時間軸に沿って単語を予測する。 2.逆生成 ?○○○○○○○文章を逆向きに読ませて前の単語を予測する。 3.両生成 ???○○○???与えた文字列から前と後ろの両方向に予測していくパターン。順生成と逆生成の２つのモデルを用いる。 予測する順番を数字で表すと、...8642○○○1357.... となる。 4.穴埋め ○?????○離れた文字列を与えて、内側の単語列を予測する。 「今日 ? ?… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fstudylog.hateblo.jp%2Fentry%2F2015%2F08%2F04%2F215508" title="RNNでのテキスト生成 - studylog/北の雲" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2015-08-04 21:55:08 rich https://studylog.hateblo.jp/entry/2015/08/04/215508 1.0 100%