Anthropic公式「The Hot Mess of AI」を読み解く ── 推論モデルのバイアスと報酬ハッキングの実態
AI要約
推論モデルは長く考えるほど精度が上がると思われていますが、Anthropicの研究では逆の実態が明らかになりました。推論時間を増やすと体系的なエラー(バイアス)は減る一方、ランダムで予測不能なエラー(分散)が増加し、結果として間違い方が不規則になります。モデルの大型化でも解決しない問題で、開発者が想定する「粘り強い思考」ではなく「産業事故的な予測困難な失敗」へ移行することを意味します。バイアス-分散分解による実証的な分析で、推論モデル活用の盲点が浮き彫りになっています。



