hiro128 https://blog.hatena.ne.jp/hiro128/ 個人的なメモ https://hiro128.hatenablog.jp/ Foundry Local でいろいろなモデルを利用したのですが、あいにく対応モデルの種類は多くありません。 仕様としては onnx 対応のモデルが公開されていれば Foundry Local で動かせますので（なんでも動くわけではない）、実際に動かしてみます。 ただし、いくつか制限があります。 - （VRAMのサイズに依存するかもしれないが）20B 以上のモデルは動かない可能性が高い - 最新のモデルは Olive が対応しておらずうまく変換できないため、onnx バージョンが提供されていないことが多い 今回は Gemma-3 vision の GPU 対応モデル 12B を動かしてみます。… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fhiro128.hatenablog.jp%2Fentry%2F2026%2F03%2F01%2F142636" title="Foundry Local で 標準対応外の onnx モデルを実行する - 個人的なメモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/h/hiro128/20260301/20260301142126.png Hatena Blog https://hatena.blog 2026-03-01 14:26:36 rich https://hiro128.hatenablog.jp/entry/2026/03/01/142636 1.0 100%