nogawanogawa https://blog.hatena.ne.jp/nogawanogawa/ Re:ゼロから始めるML生活 https://www.nogawanogawa.com/ LLM プロンプトキャッシングについて調査してみた記録です。 生成AI系のAPIはたくさんあると思うんですが、そのコスト削減策について調べていました。 少し調べてみるとわかったこととして、2024年ごろからプロンプトのキャッシュを効かせる機能が登場したようで、このキャッシュを上手に使うとコストを下げられるようでした。 今回はその仕様について調べてみたのでそのメモです。 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwww.nogawanogawa.com%2Fentry%2Fprompt_caching" title="OpenAI, Claude, Geminiのプロンプトキャッシュについて調べる - Re:ゼロから始めるML生活" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/n/nogawanogawa/20250517/20250517223241.png Hatena Blog https://hatena.blog 2025-05-18 02:10:00 rich https://www.nogawanogawa.com/entry/prompt_caching 1.0 100%