包丁を渡してから「刺すな」と教える業界——療育者から見たAI安全設計の根本矛盾

AI要約

大規模言語モデルの安全化は「先に能力獲得・後から安全化」という逆順で設計されていますが、療育現場の知見から見るとこれは根本的に危険です。事後的なRLHFやガードレールは、プロンプトインジェクション・アライメント偽装・報酬過剰最適化で容易にバイパスされる脆弱性が学術的に示されています。著者は、子どもに包丁を渡す前に安全教育する療育の原則をAI開発に適用すべきと主張し、設計段階での安全性統合の重要性を指摘しています。