NTTCom https://blog.hatena.ne.jp/NTTCom/ NTT docomo Business Engineers' Blog https://engineers.ntt.com/ AI LLM 推論アクセラレータ こんにちは。NTTコミュニケーションズの露崎です。本ブログでは2025年3月のGTCで紹介されたNVIDIA社のOSS Dynamoについて紹介します。 はじめに 特徴 インストールと基本動作 Dynamo Run Dynamo Serve 推論グラフとコンポーネント dynamo serveの起動の流れ 1. nats/etcdの起動 2. dynamo serveの起動 3. 動作確認 4. 終了 分散処理の仕組み まとめ はじめに こんにちは。NTTコミュニケーションズの露崎です。本ブログでは2025年3月のGTCで紹介されたNVIDIA社のOSS Dynamoについて紹介します。 NV… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fengineers.ntt.com%2Fentry%2F202505-dynamo%2Fentry" title="NVIDIA Dynamoについて調べてみた - NTT docomo Business Engineers&#39; Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/N/NTTCom/20250501/20250501190025.png Hatena Blog https://hatena.blog 2025-05-20 17:10:47 rich https://engineers.ntt.com/entry/202505-dynamo/entry 1.0 100%