nishiohirokazu https://blog.hatena.ne.jp/nishiohirokazu/ 西尾泰和のはてなダイアリー https://nishiohirokazu.hatenadiary.org/ 既存の方法だと8-gramの言語モデルとか現実的に無理なんだけども、この方法だと可変長だから必要なところだけ長いgramにできるよ、という論文。Pitman-Yor過程と等価な中華料理店過程でツリーを作る。she willの後にsingが来たとするとルートノードからwillをたどってsheをたどったところにsingに対応する客を追加する。上位のノードにも代理客を追加する。既存手法(HPYLM)だと、客を追加する高さが固定。しかし決まった高さに追加するのではなく「客がルートから進んできて、テーブルを通過する確率」を各ノードごとに考える。この確率qiは未知、どうやって推定するか？qiの事前分布がベ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fnishiohirokazu.hatenadiary.org%2Fentry%2F20140212%2F1392179496" title="論文紹介「階層 Pitman-Yor 過程に基づく可変長 n-gram 言語モデル」 - 西尾泰和のはてなダイアリー" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2014-02-12 13:31:36 rich https://nishiohirokazu.hatenadiary.org/entry/20140212/1392179496 1.0 100%