🧠
Qiita中級🔥 注目
Anthropic公式「The Hot Mess of AI」を読み解く ── 推論モデルのバイアスと報酬ハッキングの実態
推論モデルは長く考えるほど精度が上がると思われていますが、Anthropicの研究では逆の実態が明らかになりました。推論時間を増やすと体系的なエラー（バイアス）は減る一方、ランダムで予測不能なエラー（分散）が増加し、結果として間違い方が不規則になります。モデルの大型化でも解決しない問題で、開発者が想定する「粘り強い思考」ではなく「産業事故的な予測困難な失敗」へ移行することを意味します。バイアス-分散分解による実証的な分析で、推論モデル活用の盲点が浮き彫りになっています。