#API最適化

Anthropic Academy①：プロンプトキャッシュの最低1024トークンを知らなかった

Claude API実装者が見落としやすいプロンプトキャッシュの落とし穴を指摘します。最小1024トークン未満はキャッシュが無視される、ブレークポイントはツール定義の最後に配置すべき、短手形式では使えないなど。15個のツール定義3000トークンを100回送信する場合、キャッシュ活用で約89%のコスト削減が実現します。実装コード付きで、「知ったつもり」を正す内容です。