プロンプトインジェクション

生成AIのガードレール崩壊がもたらす未来AIの「安全装置」が意味をなさなくなる日要は、今回明らかになった「Policy Puppetry」みたいな攻撃手法って、今までAI開発者たちが頑張って作った「安全装置」を、簡単にすり抜けちゃうんですよ...