bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ LLM Colaboratory Python 自然言語処理 非思考モデル「Qwen2.5 Bakeneko 32B Instruct V2」がRinna社より公開されてました。推論モデルでない方が使いやすいかもと思いつつ、試してみます。Colab L4環境でVRAM占有率は、14577MiB / 23034MiBでした。 日本の知識は微妙な感じでしたが、参照テキストを添えると参照して生成し、計算も基本的なものは問題なさそうでした。要約はコンパクト/箇条書き気味です。個人的には好みです。物語生成は日本語は自然なのに意味が取れない箇所も。プロンプト次第かもしれません。最近は32Bも優秀なものが多いため、目立った優秀さは感じませんでした。GGUF作成時の問題… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2025%2F03%2F19%2F231753" title="rinna/qwen2.5-bakeneko-32b-instruct-v2-ggufをollamaとColabでためしてみる。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-03-19 23:17:53 rich https://bwgift.hatenadiary.jp/entry/2025/03/19/231753 1.0 100%