masatoi https://blog.hatena.ne.jp/masatoi/ masatoi’s blog https://masatoi.hateblo.jp/ LISP 機械学習 前回の記事ではパーセプトロンと線形SVMを実装したが、より高度な手法として、CW、AROW、SCWといったものがあるらしい。 パーセプトロン等では重みベクトルを直接更新していたのに対して、CWでは重みベクトルが正規分布に従って分布していると仮定して、その正規分布の平均や分散を更新していく。この平均と分散はそれぞれ重みベクトルと特徴量ごとの信頼度に対応し、これがCW(Confidence Weighted)の名前の由来となっている。更新にあたっては、誤分類の確率を一定値以下にするという制約を付けた上で、推定された正規分布とのカルバックライブラーダイバージェンス(分布間の距離的なもの)を最小化する… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fmasatoi.hateblo.jp%2Fentry%2F20150530%2F1432992309" title=" 書籍「オンライン機械学習」を買ったのでCommon Lispで実装してみた。(AROW編) - masatoi’s blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/m/masatoi/20150530/20150530220213.png Hatena Blog https://hatena.blog 2015-05-30 22:25:09 rich https://masatoi.hateblo.jp/entry/20150530/1432992309 1.0 100%