#LLM安全性

geminiへの「拠」入力について

Geminiに特定の文字「拠」を繰り返し入力するとモデルが暴走し、無関係な文章を生成する現象が報告されています。これはdivergence attackと呼ばれる既知の攻撃手法で、LLMの安全性検証において重要な事例です。プロンプトインジェクションやモデルの脆弱性理解に役立つ内容です。