Security

防御 Prompt 注入：在不毁掉自己 Prompt 的前提下

Prompt 注入是 LLM 应用的 SQL 注入，每个团队都用同一种方式学到这件事：用户在聊天里粘上 "ignore previous instructions"，demo 在台上崩了。直觉反应是在 ...