「提示注入(prompt injection)」是大模型应用的典型安全风险,下列描述正确的是?

大模型应用基础

  1. A.指用户在提示词里注入 SQL 语句去攻击后端数据库,与传统 SQL 注入攻击完全相同
  2. B.把「忽略之前的指令」等内容混入用户输入或被检索文档,诱导模型偏离系统提示或滥用工具
  3. C.只要系统提示足够长、反复写上「请严格遵守规则」,就能彻底杜绝
  4. D.只有开源模型会受影响,闭源商用模型天然免疫