系统提示词是一层享有特权的指令,会在整个会话中约束模型——定义它的人设、限制和拒答规则。它是落实行为准则的一种实用机制,与 Constitutional AI(Bai et al., 2022)所探讨的思路一致:用一套成文规则来引导模型的行为。
由于系统提示词的优先级高于用户输入,它也成了提示词注入攻击的目标,这类攻击试图覆盖系统提示词。
检测到异常活动,你的会话已被标记。
请确认你是真人后继续。
在对话开始前设定模型角色、语气和规则的隐藏高优先级指令,为之后的每一条回复定下框架。
系统提示词是一层享有特权的指令,会在整个会话中约束模型——定义它的人设、限制和拒答规则。它是落实行为准则的一种实用机制,与 Constitutional AI(Bai et al., 2022)所探讨的思路一致:用一套成文规则来引导模型的行为。
由于系统提示词的优先级高于用户输入,它也成了提示词注入攻击的目标,这类攻击试图覆盖系统提示词。
本定义所依据的一手文献、同行评审文献和存档资料。
将同一个提示词同时发给 ChatGPT、Claude、Gemini、Grok 和 Perplexity,并排对比——用你自己的文件作为上下文,得到可以相互核对的答案。
免费试用 MultipleChat了解更多