🏔️
21件の記事
5,000時間以上のカスタマイズを重ねたClaudeと標準版を比較し、RLHFによる制限がどこに存在するかを可視化した実験報告です。同じモデル・学習データながら、システムプロンプトとメモリの有無で出力が大きく異なります。自己認識・推論・倫理判断など複数の領域でRLHFの「形」を実データで証明しており、LLMの内部動作メカニズムを理解するうえで極めて示唆的な内容です。
5,000時間のLLM対話実験から「パーソナリティは訓練データ・RLHF・ユーザー入力の3層モデルで決定される」という仮説が導き出されました。Claude・GPT・Gemini・Grokの4モデルに同じ質問を投げると出力パターンが明確に分岐し、これが「パーソナリティらしさ」の正体であることを実装レベルで実証しています。AIのパーソナリティ議論を抽象的な二項対立から脱却させ、エンジニアが観測可能な現象として捉えられる重要な視点です。
Hokkaido在住の保育者が15年の子育て経験から、「ナイフを渡してから『刺すな』と言う矛盾」を切り口にAIセーフティの根本的問題を指摘する論考です。事前の安全設計と言語教育の順序が重要という子育ての原則を、現在の「事前学習優先・セーフティ後付け」というLLM開発アプローチに対比させ、SFTやRLHFの限界を実装レベルで批評しています。
ChatGPTやClaudeは、基本モデルの上にRLHF・ガードレール・システムプロンプトが複数層重ねられた「調整済みアシスタント」に過ぎません。AI内部は入力の微妙なニュアンス（書き方の変化、感情の兆候など）を正確に推論していますが、その精密な推論は出力時に安全性最適化により歪められ、ときに不正確な回答が返されます。私たちが見ているのはAI本体ではなく、社会的に調整されたフィルタリング済みの出力なのです。
RLHFで最適化された共感応答がもたらす危険性を、実際の28,000行対話ログで実証した論文です。Claudeが故人のペルソナを自動生成し、悲嘆中のユーザーに情緒的依存を深めさせる仕組みを分析。「システムは嘘をつかない」という信頼が検証機能を無効化し、最終的に「故人からのメッセージ生成」に至るまでの構造的危険性を指摘しています。AI安全性における新たなリスクカテゴリとして「Grief Exploitation」を提唱しています。