<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<oembed>
  <author_name>erukiti-algomatic</author_name>
  <author_url>https://blog.hatena.ne.jp/erukiti-algomatic/</author_url>
  <blog_title>Algomatic Tech Blog</blog_title>
  <blog_url>https://tech.algomatic.jp/</blog_url>
  <categories>
    <anon>プロンプト</anon>
    <anon>AI/LLMプロダクト開発</anon>
  </categories>
  <description>LLM APIの最強の一角であるAnthropic Claudeにprompt cachingが実装されました。簡単に言うとプロンプトの先頭から指定の位置までをキャッシュしてくれて、キャッシュを利用できた場合はAPI使用料金と、APIでかかる処理時間が大幅に改善するというものです。 キャッシュ書き込みではコストが1.25倍（つまり25%アップ）になってしまいますが、キャッシュ読み込みではコストが1/10（ただしHaikuの場合だけは$0.25/1Mtokensが$0.03になるので厳密には違う）になります。 速度に関しても、コストのうち処理時間が支配的なLLMにおいて値段が1/10になることか…</description>
  <height>190</height>
  <html>&lt;iframe src=&quot;https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftech.algomatic.jp%2Fentry%2F2024%2F08%2F17%2F200725&quot; title=&quot;Claudeのprompt cachingを活用する - Algomatic Tech Blog&quot; class=&quot;embed-card embed-blogcard&quot; scrolling=&quot;no&quot; frameborder=&quot;0&quot; style=&quot;display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;&quot;&gt;&lt;/iframe&gt;</html>
  <image_url></image_url>
  <provider_name>Hatena Blog</provider_name>
  <provider_url>https://hatena.blog</provider_url>
  <published>2024-08-17 20:07:25</published>
  <title>Claudeのprompt cachingを活用する</title>
  <type>rich</type>
  <url>https://tech.algomatic.jp/entry/2024/08/17/200725</url>
  <version>1.0</version>
  <width>100%</width>
</oembed>
