ueponx https://blog.hatena.ne.jp/ueponx/ uepon日々の備忘録 https://uepon.hatenadiary.com/ AI LLM API docker python 以前のエントリでは、Ollamaを使ってローカル環境でLLMを構築する手順を説明しました。それだけでも十分に活用できるのですが、さらに一歩進めて、Ollamaをより深く活用する方法について考えてみました。Ollamaをセットアップすると、REST APIを介してシステムからアクセスできるようになります。このREST API経由でシステムと連携することで、より柔軟にOllamaの活用の可能性が広がります。今回は、REST APIを通じてOllamaの機能を使う手法についてしらべてみたいと思います。 今回はLLMのモデルとしてMeta社のLllama3.1:8Bを使用しています。これ以上のサイズだ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fuepon.hatenadiary.com%2Fentry%2F2024%2F08%2F13%2F013157" title="ローカル環境でAIを活用する新時代：OllamaとPythonの強力タッグ - uepon日々の備忘録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-08-13 01:31:57 rich https://uepon.hatenadiary.com/entry/2024/08/13/013157 1.0 100%