pandazx https://blog.hatena.ne.jp/pandazx/ pandazx's blog https://pandazx.hatenablog.com/ 自然言語処理 機械学習 Word2vecについて個人メモ(私の理解)。詳しく知りたい人は参考文献を参照して欲しい。参考文献先には元論文のリンクもある。Word2vecは二層のニューラルネットワーク(NN)で構成される。学習して計算された重み付けの値により、学習データに含まれる情報を数値ベクトルで表現できる。NNの隠れ層、出力層のノード数は単語数x200次元程度の次元数。ただし、出力層はコンテキストサイズごとに同じノード数のものを用意する。コンテキストサイズとは、対象となる単語の前後、何単語まで、その出現位置の関係を学習するか、というもの。サイズが1なら、一つ前に現れる単語、一つ先に現れる単語を学習する。これは、近い場… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fpandazx.hatenablog.com%2Fentry%2F2016%2F05%2F21%2F175355" title="Word2vecの仕組みの勉強 - pandazx&#39;s blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2016-05-21 17:53:55 rich https://pandazx.hatenablog.com/entry/2016/05/21/175355 1.0 100%