blue1st https://blog.hatena.ne.jp/blue1st/ そんな今日この頃の技術ネタ https://blue1st-tech.hateblo.jp/ LLM 前の記事でvLLmでGemma4のMTPを動かしていたんだけど、LLM運用以外にもサーバを使いたい身としてはVRAMがあればあるだけ食べてしまうvLLMはちょっと辛かったんですな。 で、一旦はOllamaでオフィシャルに配布されているQwen3.6:27bのMTPイメージに切り替えていたんだけど、こっちは手軽だし性能面も悪く無いものの応対の日本語がちょっと微妙・・・ そんなわけで紆余曲折、単純に執筆時点ではOllama公式ではmtpなgemma4イメージが上がってない＋OpenClaw等で恒常的に利用するので単独で駐在してた方が都合が良いということで、今時点ではllama.cpp server… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblue1st-tech.hateblo.jp%2Fentry%2F2026%2F07%2F10%2F001411" title="Ubuntu on EVO-X2、llama.cpp ServerでGemma4 31BのMTPを動かす - そんな今日この頃の技術ネタ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2026-07-10 00:14:11 rich https://blue1st-tech.hateblo.jp/entry/2026/07/10/001411 1.0 100%