acro-engineer https://blog.hatena.ne.jp/acro-engineer/ Taste of Tech Topics https://acro-engineer.hatenablog.com/ LLM 生成AI 皆さんこんにちは。 Acroquest のデータサイエンスチーム「AcroYAMALEX」を率いるチームリーダー、@tereka114です。 AcroYAMALEX では、コンペティション参加・自社製品開発・技術研究に日々取り組んでいます。チーム紹介はこちら。本記事は、「学習推論ライブラリ・フレームワーク Advent Calendar 2025」の25日目です。 qiita.comLLMは相変わらず新しいモデルが登場し世間を賑わせています。 しかし、モデル自体が重く、計算時間がかかります。そのため、LLMの推論では計算速度が重要となります。 「vLLM」では、LLMを効率的に推論する技術を用… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Facro-engineer.hatenablog.com%2Fentry%2F2025%2F12%2F25%2F120000_1" title="LLMサービングライブラリの LMDeploy と vLLM を比較した - Taste of Tech Topics" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/a/acro-engineer/20251225/20251225084815.png Hatena Blog https://hatena.blog 2025-12-25 12:00:00 rich https://acro-engineer.hatenablog.com/entry/2025/12/25/120000_1 1.0 100%