touch-sp https://blog.hatena.ne.jp/touch-sp/ パソコン関連もろもろ https://touch-sp.hatenablog.com/ 言語モデル 使用したモデル「qwen2.5-bakeneko-32b-instruct-v2」はrinnaが公開している日本語言語モデルです。非常に良いとの情報を得たのでLM Studioで動かしてみました。今回使用したのはrinnaが公式に公開している「qwen2.5-bakeneko-32b-instruct-v2-q4_k.gguf」という4bitに量子化されたモデルです。 DeepSeek R1 Distill Qwen2.5 Bakeneko 32B GGUF (rinna/deepseek-r1-distill-qwen2.5-bakeneko-32b-gguf) LM Studioから検索す… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftouch-sp.hatenablog.com%2Fentry%2F2025%2F04%2F15%2F132535" title="LM Studio で qwen2.5-bakeneko-32b-instruct-v2 を試してみる。VRAM 16GBで実用的に使用できるのかどうか？ - パソコン関連もろもろ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/t/touch-sp/20250415/20250415131024.jpg Hatena Blog https://hatena.blog 2025-04-15 13:25:35 rich https://touch-sp.hatenablog.com/entry/2025/04/15/132535 1.0 100%