⚡Zenn4月2日· 2分で読める中級🔥 注目LiteLLM × Langfuse を安く安定して動かす構成（VPS + Cloudflare）LLMアプリの運用に必須なLiteLLM×Langfuseを、月額3000～6000円で安定稼働させる構成を実装ガイド付きで解説します。Langfuse CloudのHobbyプラン無料版＋国内VPS＋Cloudflareの組み合わせで、ClickHouseの運用地獄から脱出。具体的なVPS選定基準・DNS設定・Docker構築手順まで網羅しており、実際の構築に即座に活用できます。#LiteLLM#Langfuse#AI駆動開発♡0👎☆ 保存記事を読む →
📰Zenn3月28日· 2分で読める中級🔥 注目LLMで“見える運用”へ――可観測性を強化する実務メモ（OpenTelemetry GenAI / Langfuse / Phoenix)LLMプロダクション運用で必須となる可観測性を、OpenTelemetry GenAI・Langfuse・Phoenixを組み合わせて実装する方法を実務レベルで解説します。トレース・メトリクス・イベントの3信号にコスト・品質・レイテンシなど5項目を紐づけ、役割別ダッシュボードで統一的に監視する手法、さらにLLM出力の構造化やインシデント分析の具体的な切り方まで、すぐに実装できるノウハウが詰まっています。#可観測性#OpenTelemetry#Langfuse♡0👎☆ 保存記事を読む →
🕵️Qiita3月25日· 2分で読める中級🔥 注目AIエージェントの監視と評価 ― Mastra Trace & Evals + Langfuse連携AIエージェントは同じ入力でも毎回異なる出力を返すため、デバッグやコスト管理が困難です。この記事では、Mastraフレームワークの「Trace」と「Evals」機能にLangfuseを連携させ、エージェントの内部動作をSpan階層で可視化し、トークン使用量を追跡、評価自動化する実装方法を解説しています。具体的な実行例付きで、プロダクション環境での監視体制を構築できます。#エージェント#AI駆動開発#Observability♡0👎☆ 保存記事を読む →
🕵️Qiita3月7日· 1分で読める中級🔥 注目Langfuseで回すLLMopsLLMアプリは作って終わりではなく、継続的に性能とコストを管理する「LLMops」が不可欠です。本記事は個人開発の実例をもとに、Langfuseを使ったプロンプト管理・評価・監視の具体的なやり方を解説。プロンプト変更やコスト増加といった運用課題を、回帰テストやLLM as a Judgeで検知・改善する実装パターンが学べます。#LLMOps#Langfuse#監視・観測♡0👎☆ 保存記事を読む →