chamotarooo https://blog.hatena.ne.jp/chamotarooo/ chamotaroooのブログ https://chamotaro.hatenablog.com/ 技術 この記事で分かること - 生成速度の上限は「メモリ帯域 ÷ 1トークンで読む重みの量」で見積もれる - MoE モデルが Strix Halo で速いのは、1トークンで読む重みが少ないから - abliterated は拒否の「方向」の成分を重みから取り除いた改造版 はじめに 「ミニ PC にローカル LLM を入れたら快適」という話を最近よく見ます。 構成はだいたい決まっていて、Ryzen AI MAX+ 395（通称 Strix Halo）を積んだ 128GB のミニ PC に、Qwen3.8-Flash-Next のような大きめのモデルを載せる。 気になるのは、買う前に速度を見積もれるか… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fchamotaro.hatenablog.com%2Fentry%2Ftech%2Fstrix-halo-moe-bandwidth" title="ローカル LLM の生成速度は、メモリ帯域の割り算で見積もれる - chamotaroooのブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2026-10-25 10:09:16 rich https://chamotaro.hatenablog.com/entry/tech/strix-halo-moe-bandwidth 1.0 100%