syou6162 https://blog.hatena.ne.jp/syou6162/ yasuhisa's blog https://www.yasuhisay.info/ 機械学習 EMアルゴリズム自然言語処理特論で、EMアルゴリズムが紹介されたので、自分たちでやっているゼミでEMアルゴリズムについて紹介した。EMアルゴリズムの基本的な考え方は、対数尤度を変形していき、イェンセンの不等式によって下界を与え、その下界をカルバックライブラーダイバージェンスとQ関数に分解、パラメータについて関係あるQ関数の最大化をすれば、対数尤度関数も最大になる、というものであった。よい下界を与えてあげることで、最適化問題が簡単になりiterationの間、対数尤度対数尤度関数は単調非減少であるという性質から極大な点に収束してくれるというよい性質を持っていた。一般化EMアルゴリズム隠れ変数をも… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwww.yasuhisay.info%2Fentry%2F20091029%2F1256804366" title="EMアルゴリズム→一般化EMアルゴリズム→変分ベイズ - yasuhisa&#39;s blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> http://ecx.images-amazon.com/images/I/413ZCK8E1YL.jpg Hatena Blog https://hatena.blog 2009-10-29 17:19:26 rich https://www.yasuhisay.info/entry/20091029/1256804366 1.0 100%