LLM開発中のAPI代爆発・デバッグ地獄を解決するローカルデバッグレイヤーをOSSとして公開した

AI要約

LLM開発の大きな悩み「API代爆発」と「デバッグ地獄」を一気に解決するOSSツール『llm-devproxy』が公開されました。wrap_anthropic()の1行追加するだけで、すべてのAPIコールが自動記録され、同じリクエストはキャッシュから返す（コスト0に）、さらにGitのように過去のstepに巻き戻せるタイムトラベル機能を備えています。プロキシサーバーとしても機能し、OpenAI・Anthropic・Gemini対応で即座に導入できます。