bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ LLM Colaboratory Python BERT 自然言語処理 シーケンス長が最大8192トークンとし、さらにFlash Attentionに対応した改良BERTモデルであるModernBERTが発表されました。このModernBERTを日本語と英語で学習させたモデルをSoftbank Intuitionsさんが公開しました。そこで日本語で固有表現抽出(NER)を実施してみます。 モデルはこちら： huggingface.co 英語での固有抽出の例はこちら： zenn.dev すばらしい記事ありがとうございます。 stockmarkさんのWikipediaデータセットを使います。 github.com 日本語になったのでTokenizerを考慮すれば出来る… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2025%2F02%2F15%2F231013" title="ModernBERTで固有表現抽出を日本語とColabで試してみる。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-02-15 23:10:13 rich https://bwgift.hatenadiary.jp/entry/2025/02/15/231013 1.0 100%