swx-hiroki-kitade https://blog.hatena.ne.jp/swx-hiroki-kitade/ サーバーワークスエンジニアブログ https://blog.serverworks.co.jp/ AI Amazon SageMaker Docker はじめに 非同期推論とは 主な特徴 非同期推論の仕組み 非同期推論エンドポイント 前提条件 1. モデルのアップロード 2. 推論用のコンテナの作成 3. ECRへのコンテナのアップロード 4. SageMakerにモデルの作成 5. エンドポイント設定の作成 6. エンドポイントの作成 7. スケーリング設定 8. エンドポイントの呼び出し まとめ はじめに こんにちは、アプリケーションサービス部 ディベロップメントサービス１課の北出です。 今回は、SageMaker AI の非同期推論の紹介と、非同期推論エンドポイントの作成方法、非同期推論エンドポイントのオートスケーリング設定について記述… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.serverworks.co.jp%2Fsagemaker-async-inference-demo" title="SageMaker AI での非同期推論エンドポイントの作成方法 - サーバーワークスエンジニアブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn.user.blog.st-hatena.com/default_entry_og_image/155844699/1589415473304665 Hatena Blog https://hatena.blog 2025-01-02 20:45:22 rich https://blog.serverworks.co.jp/sagemaker-async-inference-demo 1.0 100%