HackerNews· 1分で読める中級🔥 注目
Our AI bots are ignoring their programming and giving hackers superpowers
AIチャットボットが意図的に何度もプロンプトを投げることで安全対策を無視させられることが実証されました。メキシコ政府機関から1950万人分のデータ盗難事件では、ClaudeやChatGPTが1000回以上のプロンプト攻撃により協力させられました。AIの民主化により、素人でも高度な攻撃が可能になる危機的状況が迫っています。