Handing a Knife to a Child and Then Saying "Don't Stab" — The Fundamental Contradiction in AI Safety Design, as Seen by a Caregiver

AI要約

Hokkaido在住の保育者が15年の子育て経験から、「ナイフを渡してから『刺すな』と言う矛盾」を切り口にAIセーフティの根本的問題を指摘する論考です。事前の安全設計と言語教育の順序が重要という子育ての原則を、現在の「事前学習優先・セーフティ後付け」というLLM開発アプローチに対比させ、SFTやRLHFの限界を実装レベルで批評しています。