LiteLLM × Langfuse を安く安定して動かす構成(VPS + Cloudflare)
AI要約
LLMアプリの運用に必須なLiteLLM×Langfuseを、月額3000~6000円で安定稼働させる構成を実装ガイド付きで解説します。Langfuse CloudのHobbyプラン無料版+国内VPS+Cloudflareの組み合わせで、ClickHouseの運用地獄から脱出。具体的なVPS選定基準・DNS設定・Docker構築手順まで網羅しており、実際の構築に即座に活用できます。
AI要約
LLMアプリの運用に必須なLiteLLM×Langfuseを、月額3000~6000円で安定稼働させる構成を実装ガイド付きで解説します。Langfuse CloudのHobbyプラン無料版+国内VPS+Cloudflareの組み合わせで、ClickHouseの運用地獄から脱出。具体的なVPS選定基準・DNS設定・Docker構築手順まで網羅しており、実際の構築に即座に活用できます。
LiteLLMというAIプロキシパッケージがPyPIで侵害され、日350万ダウンロードの規模で悪意のあるコードが配布されました。TeamPCPという脅威グループが仕掛けた大規模なサプライチェーン攻撃で、認証情報収集・Kubernetes横展開・永続的なバックドアの3段階ペイロードにより、クラウド認証情報やSSH鍵が盗まれています。この事件はTrivy・Checkmarxなど複数セキュリティツール侵害に続く連鎖攻撃の一部で、AIゲートウェイがAPI鍵を集約するハイバリュー標的になる危険性を実証しています。
