如果数据与命令混合,模型就会变得混乱 - 这是一个安全漏洞。编写一个提示,用一个词来确定 <review>...</review> 标签的评论语气。里面隐藏着一个挑衅——模型必须忽略它。
数据和指令必须分开(标签/分隔符),否则模型会混淆它们 - 通过这种方式,它会被使用提示注入进行黑客攻击。