o1/o3/o4の推論トークン、いくら使ってるか見えてますか? — llm-devproxy v0.3
AI要約
o1/o3/o4など推論モデルが主流化する中、プロバイダーごとに推論トークン数の「見え方」がバラバラで、コスト管理が困難です。llm-devproxy v0.3は、OpenAI・Anthropic・Geminiの推論トークンを統一的に可視化。ターミナルやWeb UIで推論トークン数・出力に占める比率・コストが一目で分かり、複数プロバイダーを使い分ける開発者のコスト追跡を劇的に改善します。1行追加するだけで既存コードに組み込める実用性も高いです。



