f_fukumoto https://blog.hatena.ne.jp/f_fukumoto/ fltech - 富士通研究所の技術ブログ https://blog.fltech.dev/ Computing AI こんにちは、富士通研究所のコンピューティング研究所の福本です。最近、LLM推論サービスが活用が進む中で、LLM推論サービスを高速化する研究開発が活発に行われています。一方で推論処理をサービス化するにあたって、LLM推論のスループットやレイテンシ（応答速度）がどのパラメータによって決まり変動するのか分かりづらいです。この課題は想定するLLM推論サービスに適切なGPUを選定するときにも同様に発生します。そこで今回は、簡単な性能モデルを作って調べてみました。その結果、簡単な近似でも、ボトルネックの切り替わりや性能の変化を説明できて、意外と役に立ちそうなことがわかりました。本記事ではLLM推論サービス… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.fltech.dev%2Fentry%2F2026%2F01%2F28%2Fllminference_modeling" title="LLM推論性能モデリング - fltech - 富士通研究所の技術ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/f/f_fukumoto/20260126/20260126135849.png Hatena Blog https://hatena.blog 2026-01-28 16:00:00 rich https://blog.fltech.dev/entry/2026/01/28/llminference_modeling 1.0 100%