dnyxtv3 https://blog.hatena.ne.jp/dnyxtv3/ EmotionTechテックブログ https://tech.emotion-tech.co.jp/ エモーションテックでSREチームに所属しているsugawaraです。SRE業務の側でLLM周りの開発を行なっているのですが、現状プロンプト周りの開発・運用に課題があります。具体的には、以下のような課題です。 プロンプトを調整することが多々あるが、その調整によって消費Token数、処理時間がどう変化したかを正確に把握できていない また、どのくらい結果が良くなったかが定量的に判断できていない Azure Machine Learning Prompt flow（以後Prompt flow）で上記課題を解決できないか、ヒントが得られないかと思い触ってみることにしました。 （と書いてはいますが、記事の… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftech.emotion-tech.co.jp%2Fentry%2F2023%2F10%2F10%2F103944" title="Prompt flowを触ってみた際のメモ書き - EmotionTechテックブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/d/dnyxtv3/20231003/20231003200500.png Hatena Blog https://hatena.blog 2023-10-10 10:39:44 rich https://tech.emotion-tech.co.jp/entry/2023/10/10/103944 1.0 100%