ueponx https://blog.hatena.ne.jp/ueponx/ uepon日々の備忘録 https://uepon.hatenadiary.com/ RaspberryPi LLM AI コンピュータ 以前のエントリなどでも触れていましたが、Raspberry Pi 5（8GB RAM）でリアルタイム対話可能な日本語LLMは実現可能となりつつあります。それも、特別なハードウェアを使用することなしにです。 これは、1B〜3Bパラメータのモデルでもかなり優秀になってきているからです。そのなかでもGemma3:1b、TinySwallow-1.5B（日本語特化）、Qwen2.5:1.5b〜3bといったモデルが有力な候補となるでしょう。 （7Bクラスは動作はしますがかなり遅く実用性に難あり） また、プラットフォーム的な話としては、llama.cppはOllamaより10〜20%高速ですが、セットアッ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fuepon.hatenadiary.com%2Fentry%2F2026%2F02%2F03%2F234450" title="8GBメモリでOK！Raspberry Pi 5で使える日本語対応ローカルLLM一覧 - uepon日々の備忘録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/u/ueponx/20260203/20260203225049.png Hatena Blog https://hatena.blog 2026-02-03 23:44:50 rich https://uepon.hatenadiary.com/entry/2026/02/03/234450 1.0 100%