nmoriyama https://blog.hatena.ne.jp/nmoriyama/ moriyamaのエンジニアリング備忘録 https://nmoriyama.hatenablog.com/ はじめまして@vimmodeです。普段はMNTSQというリーガルテックの会社で自然言語処理をしています。今回はBERTとBERTまでの流れを簡単に紹介します。 自然言語処理で今やデファクトスタンダードとなりつつであるBERT。登場当時はモデルの複雑さに伴う計算環境や計算リソースの確保が難しく気軽に動かせなかったが、ColabやKaggleカーネル環境が整備されたきたおかげで誰でも気軽に使えるようになりました。 また、haggingface社が公開したBERTと関連モデルのラッパーライブラリであるtransformersによりわずか10行程度でBERTモデルを記述できます。 一方、自然言語処理を… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fnmoriyama.hatenablog.com%2Fentry%2F2020%2F01%2F24%2F160351" title="自然言語処理でBERTまでの流れを簡単に紹介 - moriyamaのエンジニアリング備忘録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/n/nmoriyama/20200116/20200116161832.png Hatena Blog https://hatena.blog 2020-01-24 16:03:51 rich https://nmoriyama.hatenablog.com/entry/2020/01/24/160351 1.0 100%