shuzo_kino https://blog.hatena.ne.jp/shuzo_kino/ Bye Bye Moore https://shuzo-kino.hateblo.jp/ llm Ubuntu22LTSの環境下で、Ollamaが動いているDockerでGPUが使えるようにする 実際のところ 下準備 Nvidiaのツールを導入します。 Ubuntu22LTSの方法なので、Ubuntu24LTSの方は別記事参照。 $ curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey \ | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg $ curl -s -L https://nvidia.github.… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fshuzo-kino.hateblo.jp%2Fentry%2F2024%2F06%2F20%2F234943" title="ローカルLLM環境を構築できるOllamaをためす　その４：Nvidia GPUで動作させる - Bye Bye Moore" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2024-06-20 23:49:43 rich https://shuzo-kino.hateblo.jp/entry/2024/06/20/234943 1.0 100%