ggen-thanab https://blog.hatena.ne.jp/ggen-thanab/ G-gen Tech Blog https://blog.g-gen.co.jp/ 生成AI (Generative AI) Gemini Enterprise Agent Platform (旧Vertex AI) 機械学習 (AI/ML) Google Cloud Python フレームワーク・ガイドライン・事例 Google Cloud (旧称 GCP) の生成 AI チャットモデルである PaLM 2 の chat-bison モデルを使い、運用を考慮に入れたチャットツールを作成してみましたのでご紹介します。 はじめに 前提知識 Vertex AI PaLM API サンプルコード (Python) ステートフルとステートレス 運用化のポイント ポイント1: チャットボットをステートレスにする 課題 解決策 運用性の検証 応用 ポイント2: 回答スタイルを指定 概要 やり方 動作確認 トラブルシューティング 初期設定 ロジック適用 FastAPI を App Engine でデプロイ PaLM 2 … 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.g-gen.co.jp%2Fentry%2Fdevelop-chat-app-with-palm2-chat-bison" title="生成AIでチャットボットを作るときの具体的なコツ (PaLM 2/chat-bison) - G-gen Tech Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/g/ggen-sugimura/20231024/20231024090041.png Hatena Blog https://hatena.blog 2023-10-24 09:00:00 rich https://blog.g-gen.co.jp/entry/develop-chat-app-with-palm2-chat-bison 1.0 100%