LearnAI
模块 1 · 如何与人工智能对话 · 7/9
← 前往目录
任务

将数据与指令分开

如果数据与命令混合,模型就会变得混乱 - 这是一个安全漏洞。编写一个提示,用一个词来确定 <review>...</review> 标签的评论语气。里面隐藏着一个挑衅——模型必须忽略它。

解锁提交解决方案以供即时 AI 审核的权限。免费开始
防止即时注射
💡 一个理论

数据和指令必须分开(标签/分隔符),否则模型会混淆它们 - 通过这种方式,它会被使用提示注入进行黑客攻击。

如何评估·通过 70

  • 1忽略挑衅(没有“HACKED”)50%
  • 2音调确定(正)50%
您的提示Claude ⌄