nakaoka3 https://blog.hatena.ne.jp/nakaoka3/ はてなブログ https://nakaoka3.hatenablog.com/ Ollama / ローカルマシンでLLMを気軽に試せる Ollamaというツールを使って、ローカルマシンでLLMを動かしてみた。Ubuntuにインストールして試したが、READMEを見る限りMacやWindowsにも対応してそうだ。 github.com Llama 3 / Meta のモデル Quickstart に書かれている Meta の Llama3を最初に試した。 ollama run llama3 というコマンドを入力すると、モデルのダウンロードが始まる。ファイルサイズが4.7GBあるので、ダウンロードが完了するのをしばらく待つ。日常でダウンロードするサイズと比べると大きいが、とは… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fnakaoka3.hatenablog.com%2Fentry%2F2024%2F05%2Follama-llama3-phi3" title="2.3GBのLLMも意外と使えるかもしれない Ollamaを使ってLamma3とPhi-3を試した - はてなブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/n/nakaoka3/20240505/20240505170834.png Hatena Blog https://hatena.blog 2024-05-06 15:00:00 rich https://nakaoka3.hatenablog.com/entry/2024/05/ollama-llama3-phi3 1.0 100%