#observability

AIのデバッグがprintfに戻っている

AIエージェント開発でデバッグが50年前のprintf時代に逆戻りしている現状を指摘します。従来のコードデバッグはAIが対応できるものの、LLM自体の非決定性・内部不透明性により、ブレークポイントやステップ実行が不可能です。記事はObservability（LangSmith等）とテスト駆動（promptfoo）の両手法がブラックボックスの外側を計測するだけで、内部状態の対話的探索に至らない構造的な限界を指摘し、AI開発者が直面する現実的な課題を鋭く分析しています。