min117 https://blog.hatena.ne.jp/min117/ min117の日記 https://min117.hatenablog.com/ Linux bash RaspberryPi AI/LLM/RAG/機械学習 Python PHP Windows Google/Firebase GMKtec K12 で AIを動かす メモリ32GBサーバでllama.cppを走らせる min117.hatenablog.com 結論 ・gpt-oss-20b-mxfp4.gguf ・起動に1分 ・実用モデルでも 18 tok/s、ライトモデルだと 50 tok/sも出る（速い！） ・賢い！ インストールllama.cpp 最高だ。 次は上位モデルを試そう。 メモリ32GBに載る最良AIモデルを探る gpt-oss-20b-mxfp4.gguf 初回のモデル読込に7分（右上に時間） （質問）対数を取ると掛け算が足し算になるという仕組みについて詳しく教えて。 9:23:00に質問を投げた… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fmin117.hatenablog.com%2Fentry%2F2026%2F07%2F10%2F091127" title="（ローカルAI構築）GMKtec K12 メモリ32GB（fedora44）llama.cpp をインストール → 賢くて実用的で無限に質問できるローカルAIが完成 - min117の日記" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/m/min117/20260704/20260704173413.png Hatena Blog https://hatena.blog 2026-07-10 09:11:27 rich https://min117.hatenablog.com/entry/2026/07/10/091127 1.0 100%