touch-sp https://blog.hatena.ne.jp/touch-sp/ Intel GPUで言語モデルを動かしたり画像や動画を作ったり https://touch-sp.hateblo.jp/ 言語モデル Dockerのインストールこちらを参照して下さい。Docker imageの作成 git clone https://github.com/vllm-project/vllm cd vllm docker build -f Dockerfile.openvino -t vllm-openvino-env .サーバー側Runデータの保存先「/home/hoge/data」は適宜変更して下さい。 docker run -it --rm -v /home/hoge/data:/root/.cache/huggingface -p 8000:8000 vllm-openvino-envvLLMの実行 … 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftouch-sp.hateblo.jp%2Fentry%2F2025%2F02%2F08%2F115802" title="OpenVINOでvLLMを動かす（Docker編） - Intel GPUで言語モデルを動かしたり画像や動画を作ったり" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-02-08 11:58:02 rich https://touch-sp.hateblo.jp/entry/2025/02/08/115802 1.0 100%