#Differential Privacy

モデル反転攻撃について [AIセキュリティ]

モデル反転攻撃は、機械学習モデルのパラメータや出力から学習データを逆算して復元する攻撃です。顔認識なら顔画像、LLMなら学習データが復元される危険があります。勾配ベース・GAN利用など複数の手法が存在し、過学習・リッチな出力が成立条件です。Differential Privacyや出力制限が有効な防御策として紹介されています。