bwgift https://blog.hatena.ne.jp/bwgift/ 地平線まで行ってくる。 https://bwgift.hatenadiary.jp/ LLM Colaboratory Python 自然言語処理 Qwen3ベースのEZO-8Bベータ版を試してみます。mmngaさんがGGUFに変換したモデルを利用してcolab L4環境で動作させました。 VRAM占有率は6545MiB / 23034MiBでした。これまでもEZOモデルはいい感じでベースモデルから性能を上げています。今回は、8Bでも高い性能ということで期待しながら試してみます。 huggingface.co chat-ui-seven-sigma.vercel.app さすがに8Bのモデルなので知識を求めるのは厳しいとは思いますが、ここまで答えられるといろいろ実用が見えてきていると感じます。もちろん、量子モデルだということは割り引くと可… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fbwgift.hatenadiary.jp%2Fentry%2F2025%2F06%2F09%2F231550" title="mmnga/Qwen3-EZO-8B-beta-ggufをColabとollamaでためしてみる。 - 地平線まで行ってくる。" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-06-09 23:15:50 rich https://bwgift.hatenadiary.jp/entry/2025/06/09/231550 1.0 100%