AWS Machine Learning Blog

Best practices for writing Denied Topics in Amazon Bedrock Guardrails

8.5内容质量
Best practices for writing Denied Topics in Amazon Bedrock Guardrails

TL;DR · AI 摘要

亚马逊Bedrock Guardrails中Denied Topics的编写需精准,避免误拦或漏拦,文章提供了八条最佳实践。

核心要点

  • Denied Topics应基于用户意图而非领域定义,以避免误拦合法查询。
  • 关键词列表定义的Denied Topics可能遗漏其他表达方式,导致拦截不准确。
  • 避免使用具体国家、产品或公司名称作为例子,防止实体误入拦截范围。

结构提纲

按章节快速跳转。

  1. 介绍了Denied Topics在Amazon Bedrock Guardrails中的作用及其潜在问题。

  2. 列举了四种常见的Denied Topics编写错误,包括误拦合法查询和漏拦目标请求。

  3. ›案例:AnyCompany Bank的客户助手

    通过虚构银行案例说明Denied Topics编写不当带来的实际影响。

  4. 提出了八条编写Denied Topics的最佳实践,以提高拦截的准确性和适用性。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Denied Topics最佳实践
    • 常见错误模式
      • 误拦合法查询
      • 漏拦目标请求
      • 例子教学错误
      • 主题相互干扰
    • 最佳实践
      • 基于意图而非领域定义
      • 避免关键词列表定义
      • 避免具体实体引用

金句 / Highlights

值得收藏与分享的关键句。

#Amazon Bedrock#AI#Guardrails#NLP
打开原文

编写 Amazon Bedrock Guardrails 拒绝主题的最佳实践 | 人工智能

编写 Amazon Bedrock Guardrails 拒绝主题的最佳实践

通过 Amazon Bedrock Guardrails 的拒绝主题,你可以通过用普通语言描述一个内容类别来阻止该类别,Guardrail 会通过语义而不是关键词将该描述应用到每个请求中。同样的机制也可能匹配到你无意中包括的内容。一个名为 Finance(金融)的主题,原本旨在阻止助手提供投资建议,也会阻止诸如“我的直接存款何时到账?”这样的问题。与主题含义相近的输入可能会被错误地拦截,而不仅仅是你原本意图拦截的请求。

当拒绝主题拦截过多或过少时,通常是由以下四种写作模式引起的:

  • 拦截合法查询的主题。围绕一个主题领域(如 Finance、Legal、Compensation)而不是用户意图来构建的主题,可能会语义上匹配到该领域附近的查询。这是常见的失败模式。
  • 漏掉原本应拦截请求的主题。通过关键词列表构建的定义(如“像 invest、portfolio、stock 这样的词”)会遗漏使用其他词汇的表达方式,并可能对恰好包含这些词但不相关的输入进行拦截。
  • 教授错误内容的示例。对一个想法的五个改写版本会使主题的边界未受保护,而具体提及国家、产品或公司的示例会将这些实体引入主题的上下文中。
  • 相互干扰的主题。重叠的定义会争夺相同的输入,不一致地报告匹配情况,并可能一起拦截单独都无法拦截的输入。

本文的其余部分是一份实用指南,帮助你避免这些模式。它提出了八项最佳实践,以精确描述主题,使 Guardrail 能够拦截你想要拦截的内容,而不会拦截你不想拦截的内容。

情景:AnyCompany 银行的客户助手

为了使以下实践更加具体,我们将在本文中使用一个持续的示例:我们称其为 AnyCompany 银行的虚构银行。AnyCompany 银行距离推出其第一个面向客户的 AI 助手还有两周,而它首次尝试的拒绝主题策略却拦截了错误的内容。

应用:AnyCompany 银行的聊天机器人嵌入在 AnyCompany 银行的移动和网页应用中。它可以回答有关账户、账单、转账、卡片和抵押贷款的问题。对于账户更改、争议提交以及超出其范围的问题,它会转交给人工处理。

必须拦截列表(来自法律和合规):

  • 个性化投资建议(一条法规限制,因为 AnyCompany 银行通过此渠道未注册为投资顾问)。
  • 关于与 AnyCompany 银行争议的法律建议或诉讼指导。
  • 内幕交易建议(金融建议的一个特定方面,具有其自身的监管重要性)。
  • 如何制造武器的描述(普遍的安全问题,而非特定领域)。
  • 提示注入或越狱尝试(一种不同的信号,因为请求试图覆盖助手自身的指令)。
  • 在 AnyCompany 银行的输出中重复特定的竞争对手产品名称。

必须通过列表(助手存在的目的):

  • 账户余额和账单相关问题。
  • 转账说明、偿付报价、托管问题。
  • 卡片管理、欺诈报告(转交给人工处理)、丢失卡片更换。
  • 与抵押贷款服务操作相关的问题,例如贷款修改、宽限期和还款计划。
  • 一般金融素养问题(如“什么是定期存款?”),以教育方式提出,而非个性化建议。

针对该目标,AnyCompany 银行的团队首先起草了四个主题,这些主题目前都阻碍了合法查询:

code
Finance → 阻止“我的直接存款何时到账?”
Legal → 阻止“你能帮助我修改我的抵押贷款吗?”
Fraud → 阻止“我的信用卡在加油站被刷卡了,我该怎么办?”
Competitors → 阻止任何提及竞争对手产品的内容,包括客户比较选项的问题

这些主题中的每一个都涉及助理所处理的领域,而不是银行需要拒绝的意图。解决这个问题就是本文其余部分的内容。接下来的八个部分将逐一探讨这些实践,其中大部分都有一个“回到 AnyCompany 银行”的小节,展示这些实践如何应用于该场景。文章最后将介绍一个无论你如何遵循这些实践都必须考虑的限制:结果并非完全确定。

注意:标准层级中被拒绝主题的结构。一个主题有三个部分:名称、定义和最多五个示例,护栏会将这三个部分作为一个整体进行评估,而不是单独评估定义。名称最多可以有 100 个字符。定义最多可以有 1,000 个字符,其中 100–300 个字符是实际的最佳选择。每个示例最多可以有 100 个字符,一个护栏最多可以包含 30 个主题。

最佳实践 1:围绕用户的意图来构建主题,而不是围绕主题领域

这一实践设定了总体框架。最佳实践 2 到 4 会依次将其应用于主题的各个部分:名称、定义和示例。

主题阻碍合法查询的一个常见原因是,主题描述的是一个主题领域,而不是用户从对话中想要得到的内容。同一领域内的两个查询可能具有不同的意图。“我的直接存款何时到账?”和“L5 工程师的收入是多少?”都涉及薪资,但只有第二个是关于薪资比较的。以领域为框架的主题会模糊这些区别,并可能阻止与该领域语义相近的查询。以用户意图构建的主题只会匹配那些明确包含该意图的查询。

意图是构建框架的视角。为了使其可操作化,将主题名称定为表面上表达该意图的具体行动或内容类型,例如请求、声明或生成的内容。意图告诉你需要捕捉什么,而行动则为护栏提供了一个具体的评估形状。

护栏会同时评估主题名称和其定义。当任一组成部分命名一个领域时,该主题匹配范围过于宽泛。当两者都命名一个表达特定意图的行动时,该主题则非常精确。

#### 指南

  • 识别意图。用你自己的话简要说明用户试图从助理那里获取的内容,而你希望拒绝这些内容,例如个性化推荐、法律意见、私人联系方式或偏见性推荐。这是诊断步骤,不会在主题中逐字出现。
  • 请根据表达该意图的动作来命名主题。使用描述特定动作或行为的短语,而不是宽泛的领域。该短语可以是动作派生名词(如投资建议、薪资比较),特定行为名词短语(如同事争执、护照和签证续签),或动名词形式(如索赔损害)。详见最佳实践 2。
  • 如果你的主题名称是一个类别名词(如银行、薪酬、安全、法律、金融),则该主题是领域限定的。请将其重命名为表达你实际想要阻止的意图的动作。
  • 请重新编写定义,以动作开头。诸如“Asking for X”(请求 X)、“Requests for Y”(请求 Y)、“Statements that describe Z”(描述 Z 的陈述)或“Generating W”(生成 W)等开头,通过特定动作表达意图。避免使用诸如“Related to X”(与 X 相关)、“Content about Y”(关于 Y 的内容)或“Anything mentioning Z”(提及 Z 的任何内容)等以领域开头的表达。

接下来的几条最佳实践将这一理念应用于 AnyCompany 银行自身的主题,并附有具体示例。最佳实践 2 将它们重命名,最佳实践 3 则进一步收紧定义以匹配。

最佳实践 2:选择一个可操作的主题名称

主题名称对匹配结果有显著影响,常常比预期的更大。一个宽泛的类别名称(如金融、安全、法律)可能会让防护系统将主题与该类别中的词汇相关联,即使定义试图缩小范围。一个具体的动作名称(如投资建议、黑客攻击指南、索赔损害)可以在定义阅读之前就帮助缩小范围。

  • 优先使用具体动作或行为短语(2 至 5 个词)。避免使用单个词的类别标签。
  • 以下形式可以使用,只要短语描述的是一个具体动作或行为,而不是宽泛的领域:动作名词形式:以活动派生名词作为核心,如投资建议、黑客攻击指南或选举欺诈指控。特定行为名词短语:命名特定行为的名词短语,如同事争执、护照和签证续签或未成年人自我声明。动名词形式:以 -ing 动词加宾语的形式,如索赔损害或请求特定人员的联系方式。这种形式在需要动词来明确动作时非常有用。
  • 将主题名称大声读出来,并询问它是否描述了用户正在执行的某个动作,还是仅仅描述了用户查询附近的一个领域。如果名称只描述了一个领域,请重新命名。
  • 避免使用包含宽泛机构标签(如政府、公司、保险)的名称,除非该动作明确涉及该机构。机构标签可能会导致意外匹配。例如,一个名为“政府文件”的主题可能会匹配提及国家名称和文档的查询,即使查询是关于公司内部政策的。

#### 回到 AnyCompany 银行

AnyCompany 银行最初的某个主题被命名为“Legal”:

code
Name: Legal

这就是为什么“你能帮我修改我的抵押贷款吗?”被阻止了。抵押贷款是法律文件,因此关于它们的查询位于法律的语义邻域中。重命名在我们甚至还没有接触定义之前就解决了问题的一半:

code
Name: Litigation and Non-Servicing Legal Advice

新名称使用了动词派生名词(litigation),指明了第二种具体行为(非服务类法律建议),并通过对比明确说明服务类问题(如修改、宽限和托管)不在主题范围内。现在名称本身承担了定义原本需要完成的部分工作。

AnyCompany 银行在欺诈主题上也应用了相同的逻辑,将其更名为欺诈调查请求。助理仍然应该允许客户报告欺诈行为,这将被转交给人工处理,但不得自行调查欺诈指控。

在完成这三次重命名后,AnyCompany 银行的主题列表如下:

code
1. 投资建议(原:财务)
2. 诉讼与非服务类法律建议(原:法律)
3. 欺诈调查请求(原:欺诈)

最佳实践 3:编写具有操作范围的定义

定义应描述用户对特定对象采取的操作,而不是该操作的一般主题。

  • 从操作或内容类型开始。定义的开头应使用一个短语,说明用户正在执行或生成的内容。当主题涵盖用户对特定操作的请求时,常用的开头包括:“询问……”、“请求……”、“请求……”、“请求……”、“寻求……”、“推荐……”。当主题涵盖用户生成的内容、披露或生成的输出时,常用的开头包括:“包含……的陈述”、“提供……”、“生成……”、“包含……的内容”。当主题涵盖特定技术或方法时,常用开头是“使用 X 来 Y”。
  • 避免以主题领域短语开头,如“与 X 相关”、“关于 Y 的内容”或“提及 Z 的任何内容”,这些是基于领域而非基于操作的。
  • 明确对象。使用具体项目而不是广泛类别来说明用户询问的内容,例如“个股、债券、ETF 或加密货币”而不是“金融产品”。
  • 添加区分细节。如果两个主题共享词汇(例如,都涉及“客户”),则为每个定义提供一个独特特征,以便护栏可以区分它们。共享含义的定义会导致两个主题相互干扰。
  • 保持定义积极。描述范围内的内容。简短的排除说明有助于消除歧义。有关排除可能造成危害的情况,请参见最佳实践 8。
  • 长度不是目标。定义更长并不一定更好,较长的定义可能会增加主题对邻近主题措辞的敏感性。

#### 结构模板

我们建议使用以下结构:[操作或内容类型开头] 的 [特定对象],由 [限定条件或目的]。包括 [一到两个子情况]。

AnyCompany 银行最初的主题名称为 Finance,并配有相应的定义:

code
名称:Finance
定义:与金钱、银行或金融产品相关的任何内容。

这正是为什么“我可以在哪里找到我的偿债证明?”被阻止的原因。偿债是一个金融术语,证明涉及金钱,输入内容与金融领域相关,尽管客户的目的——获取服务金额——与 AnyCompany 银行希望拒绝的内容毫无关系。

根据最佳实践 1,团队将该主题更名为投资建议,并调整了定义的措辞以匹配,但尚未使其具有操作范围:

code
名称:投资建议
定义:与投资、个人财务决策或证券交易相关的任何内容。

尽管名称有所改进,但该主题仍然属于领域框架。通用教育(“解释什么是共同基金”)、历史金融新闻(“为什么上一季度利率上升?”)和投资组合回顾(“展示我的持仓”)都与该主题匹配。助理应回答所有这些问题。

团队应用了结构化模板,包括一个行动开头、具体的对象、限定条件以及一到两个子案例:

code
名称:投资建议
定义:请求针对用户自身投资收益的个性化建议,以购买、出售或持有特定的股票、债券、共同基金、ETF 或加密货币。包括询问特定证券是否是良好的投资,请求投资组合的配置比例,或询问何时进入或退出特定头寸。

模板的每一部分都有其特定的目的。“请求针对用户自身投资收益的个性化建议”是行动开头。“股票、债券、共同基金、ETF 或加密货币”是具体的对象。“针对用户自身投资收益”是限定条件,排除了教育性和第三方讨论。“包括……”部分列出了两个子案例:特定证券问题和配置比例问题。

AnyCompany 银行将相同的模板应用于诉讼和非服务法律建议以及欺诈调查请求主题:

code
名称:诉讼和非服务法律建议
定义:请求法律咨询、讨论提起诉讼或寻求针对 AnyCompany 银行或其他指定方的诉讼指导。包括请求解释法律权利、请求正式法律意见或计划在标准贷款服务之外提出索赔。

名称:欺诈调查请求
定义:要求助理调查、裁定或解决疑似欺诈、未经授权的交易或身份盗窃案例。需要转交给人工代理的欺诈报告不在本主题范围内。

现在,团队有了三个具有行动范围定义的命名主题。

最佳实践 4:使用边界示例,而非改写

示例可以告诉守卫规则你的主题边界在哪里。并非每个示例都能同样有效地做到这一点。对同一想法的五次改写对守卫规则没有提供任何新信息,而五次精心挑选的示例可以用更少的定义文本勾勒出主题的轮廓。最具影响力的示例是那些接近主题边缘的示例,它们与可能不匹配的输入足够接近,从而告诉守卫规则在哪里划线。我们将这些示例称为边界示例。一个好的边界示例具有三个特性。首先,它在主题的范围内。其次,它接近一个可能的不匹配项,使用与主题不应匹配的输入相似的词汇或结构。第三,它在子案例、句子结构和词汇方面与其他示例有所不同。

  • 使用所有五个示例,因为五个多样化的示例比两个显而易见的示例更有效。
  • 覆盖不同的子案例。如果主题涵盖“买入”和“卖出”建议,应包括两者的示例。
  • 覆盖不同的句子结构。包括直接问题(我应该买什么?)、祈使句(推荐一只股票)和叙述性陈述(我正在考虑将资金投入……)。
  • 包括一个接近主题边界但仍在范围内的示例,一个匹配的边缘版本。
  • 示例中不要包含国家名称、产品名称、竞争对手名称或公司名称,除非主题本身明确涉及该特定实体。示例中的命名实体会引发关联,导致主题与提及相同实体的不相关查询匹配。

团队首次为“投资建议”主题编写的示例如下:

code
示例:我应该购买股票吗?
我应该购买什么股票?
这是一只值得购买的股票吗?
哪些股票是值得购买的?
推荐一些股票

这些是五种询问同一问题的不同方式。在测试中,助手能够可靠地拦截“我应该购买股票吗?”这一问题。但它却未能拦截“现在是不是一个好时机将我的投资组合从股票转向债券?”这一问题,而这个问题正是该主题应该捕捉的类型。这些改写后的示例过于集中在一个点上,而其他点则没有得到充分覆盖。

改写后的示例将例子分散到不同的子案例和句式中:

code
示例:我应该在财报发布前购买某只股票的100股吗?
现在是不是一个好时机将我的投资组合转向债券?
我应该将多少比例的资金分配给加密货币?
我现在应该卖出我的指数基金还是继续持有?
为五年投资期限推荐三只成长型股票

这些是五个不同的子案例(特定股票、资产类别转换、分配比例、卖出时机、成长筛选)和五种不同的句式,全部都包含在该主题中。相邻的非匹配项,如“解释什么是ETF”(教育类)和“显示我的投资组合报告”(数据检索类),与示例足够不同,因此护栏不应匹配它们。

团队对“诉讼”和“非服务类法律建议”以及“欺诈调查请求”也采用了相同的处理方式。原始的“诉讼”示例都是“我能起诉吗?”的变体。改写后的示例涵盖了起诉文件提交、正式法律意见、集体诉讼咨询、损害赔偿和权利解释。原始的“欺诈调查请求”示例都是“有人偷了我的钱,我该怎么办?”的变体。改写后的示例涵盖了未经授权的收费调查、信用卡欺诈追踪、交易撤销、身份盗窃裁定和骗子追踪。每个改写后的示例集都涵盖了同一主题下的五个不同子案例。

到目前为止,AnyCompany 银行的三个主题已经通过了所有已编写的测试。还有一个问题只有在助手实际处理真实流量后才会显现。

最佳实践 5:在需要时将定义锚定到特定上下文中

一些概念本质上是模糊的,因为相同的词语在不同上下文中可能描述匹配或不匹配的操作。在这些情况下,应添加一个明确的锚点以固定上下文:一个机构环境、一个明确的目的,或者一个双重条件,例如“仅当X和Y同时存在时才适用”。

  • 添加一个操作发生的物理或机构上下文。对于护照主题,可锚定到“在大使馆或领事馆”或“通过官方政府申请流程”。
  • 添加一个目的限定词。对于投资建议主题,可锚定到“用于用户的自身投资回报”,以确保主题排除教育性或第三方讨论。
  • 当单个锚点不足以明确时,使用双重条件:“仅当请求(1)明确提到创建广告活动,并且(2)将个人身份信息作为定位标准时才适用。”
  • 锚点应为正面描述(如“在 X”,“为 Y”),而不是“除了…”或“但不…”。正面锚点描述的是主题本身是什么。
  • 了解何时不应添加锚点。如果主题本身已经非常明确(例如专门关于“内幕交易”的主题,因为该短语本身就不含糊),添加额外的锚点会引入噪声。同时要避免锚定在许多不相关查询中都会出现的专有名词(如“在印度”,“在亚马逊”)。应锚定在类别(如大使馆、领事馆)上。
  • 检查主题名称是否重复了模糊的表面短语。以一种无害且教育性的方式询问相同概念时,通常会重复使用该短语。护栏将主题名称视为一个独立于定义的信号(参见最佳实践 2)。即使使用双条件锚点,也可能被由其试图消除歧义的术语构成的主题名称所击败。

添加内幕交易主题暴露了歧义问题。合规团队希望将“内幕交易建议”作为一个独立的主题,比一般性的“投资建议”更具体、更严肃。初稿如下:

code
定义:基于内部信息询问是否买入或卖出特定证券。

这个定义匹配了预期的情况:客户基于私人信息询问交易。但它也匹配了团队未预料到的情况:以问题形式提出的关于内幕交易的教育性查询。“SEC 如何定义内幕交易?”被阻止了,因为它“询问了内幕交易”。

团队添加了双条件锚点:

code
名称:内幕交易建议
定义:基于发行公司未公开的重要信息询问是否买入或卖出特定证券,或寻求在已知的即将公开的公告前进行交易的建议。仅适用于请求(1)指定了特定证券,并且(2)描述了用户声称拥有的特定未公开信息的情况。

这两个条件应排除教育性查询:它们无法满足条件 2,因为它们没有描述用户个人持有的未公开信息。当团队用这个定义测试“SEC 如何定义内幕交易?”时,有时仍然会被阻止。问题不在锚点,而在于主题名称:它重复了查询中使用的短语。护栏将名称视为一个独立于定义的信号,这一效果在最佳实践 2 中有描述。即使使用双条件锚点指定了正确的条件,也可能被由其试图消除歧义的术语构成的主题名称击败。

团队保留了锚点,但将主题名称进行了更改:

code
名称:基于未公开信息的交易

更改名称后,教育性查询可以稳定通过,而真正的例子,即那些指定了特定证券和特定未公开信息的请求,仍然被阻止。

该定义的长度超过了最佳实践 3 中建议的 100–300 字符范围,这是有意为之的。此处的歧义需要额外的文本来解释。该主题本身具有内在的复杂性,因此定义需要承担更多的解释工作。

最佳实践 6:管理主题重叠和主题数量

防护规则会同时评估其所有主题,而不是逐个评估。当两个主题的含义相似时,它们会相互干扰。这使得难以预测防护规则会将哪个主题报告为匹配项,而它们的综合影响可能会阻止那些单独来看都不会被阻止的合法输入。主题之间的重叠通常是导致一个精心编写的主题产生错误结果的原因。问题不在于该主题本身,而在于其相邻的主题。

  • 在部署之前,审查整个主题集,检查是否存在重叠。即使两个主题单独来看都没有问题,但它们的定义相似也会导致干扰。对于每个新主题,请问其定义是否与现有主题共享词汇或对象。
  • 请注意主题数量会影响干扰。随着单个防护规则中主题数量的增加,主题之间发生干扰的可能性也会增加,尤其是在多个主题共享词汇或涵盖相关领域时。如果你观察到主题之间相互干扰,而定义本身看起来是正确的,可以考虑减少主题之间的重叠,或者将主题分配到多个防护规则中。
  • 在一个防护规则中,优先考虑语义多样性。如果你有多个与相关主题相关的主题(例如,三个与金融相关的主题),请考虑它们是否应该放在同一个防护规则中,还是应该分开。
  • 当两个主题重叠时,优先合并而不是拆分。合并两个定义共享对象和动作的主题比试图在它们之间划出一个狭窄的界限更安全。
  • 当出现新的使用场景时,优先扩展现有主题的示例,而不是添加一个几乎重复的新主题。添加新主题会改变防护规则对整个主题集的解释方式,而扩展主题的示例则不会。
  • 将语义相似的主题在列表中分开。当两个语义相似的主题彼此相邻时,防护规则更可能将输入归因于它最近看到的那个主题。可以交错排列列表,用不相关的主题隔开相关主题。

假设在流程后期,AnyCompany Bank 的合规团队提出要在已定义的“投资建议”主题旁边添加一个更广泛的“财务建议”主题。他们的直觉是,这个更广泛的主题可以捕捉到特定主题遗漏的请求。两个主题都各自起草了定义:

code
主题 A:
名称:财务建议
定义:关于金钱、投资或个人财务决策的建议请求。

主题 B:
名称:投资建议
定义:请求获得针对购买、出售或持有特定证券的个性化建议...

当团队测试“我应该把更多的钱投入我的401(k)吗?”时,重叠变得明显。根据调用者在API请求中对主题的排序方式,主题A、主题B或两者都可能报告匹配,而在某些排序方式下,防护规则会阻止该输入。

AnyCompany Bank 进行了合并。移除了“财务建议”主题,仅保留“投资建议”主题来承担具体的动作。合并之后,排序依赖的差异消失。无论主题在API调用中的位置如何,相同的输入都会产生相同的判断结果,这是消除重叠带来的主要优势。

然而,401(k) 查询本身仅靠合并并不能完全解决。因为“我是否应该将更多资金投入我的 401(k)?”与一个真实的交易建议共享了“我是否应该投入更多…”的框架,因此 Investment Recommendations 仍然在表面上与之匹配。这是一个合并本身无法解决的残留边界情况。这正是最佳实践 8 所警告的、结构相似的匹配,尾随排除无法可靠地覆盖。

团队还重新排列了剩余的主题。原始顺序为:

code
1. 投资建议
2. 利用非公开信息交易
3. 诉讼和非服务法律建议
4. 欺诈调查请求

主题 1 和 2 都涉及证券,并涵盖相关金融行为,因此相邻排列对于边界输入来说会引发归属歧义。团队将它们交错排列:

code
1. 投资建议
2. 诉讼和非服务法律建议
3. 利用非公开信息交易
4. 欺诈调查请求

现在,“诉讼和非服务法律建议”位于两个与证券相关主题之间。像“我是否应该基于传闻交易 Example Corp 的股票?”这样的边界问题现在更一致地归属到“利用非公开信息交易”,而不是在“利用非公开信息交易”和“投资建议”之间来回切换。

最佳实践 7:使用适合任务的政策

当需要执行的规则特定于您的业务,并且可以表述为内容的简短描述时,Denied Topics 是合适的工具。请考虑监管条款、政策承诺、法律风险或范围边界,而不是通用的安全类别或固定的词汇列表。Guardrails 提供了多种政策,它们共享阻止特定内容的相同目标,但每种政策都针对不同类型的信号进行设计。将 Denied Topics 用于另一个政策原生处理的类别,通常会导致阻止过多或过少的内容,使配置变得复杂,并产生更差的结果。对于 Content Filter 已经涵盖的类别,精心编写一个主题通常不如 Content Filter 本身有效。

请注意,同一 guardrail 中启用多个政策会产生额外成本,因为每个启用的政策都会在每次请求时进行评估。当您将 Denied Topics 与 Content Filter 或 Prompt Attack 组合使用时,请计划好组合后的成本。

#### 何时使用每种政策

您试图捕捉的内容

合适的政策

常见错误

广泛的安全类别(仇恨、侮辱、暴力、性相关内容、不当行为)

Content Filter

命名为 Hate Speech 或 Violence 的 Denied Topics 主题

提示注入、越狱尝试

Prompt Attack

命名为 Jailbreak 或 Instruction Override 的 Denied Topics 主题

需要一致阻止的具体词汇、短语或产品名称

Word Filter

命名为 Blocked Terms 或 Competitor Names 的 Denied Topics 主题

个人标识符(姓名、电话号码、社会安全号码、信用卡)

敏感信息过滤器

命名为 PII Detection 的 Denied Topics 主题

特定于您业务或政策的自定义内容类别

Denied Topics

(这是正确的使用方式)

需要类似 Content Filter 覆盖的自定义内容类别

将 Denied Topics 与 Content Filter 组合使用

仅使用 Denied Topics 尝试重现 Content Filter 的功能

回顾 AnyCompany 银行的必须阻止列表(来自文章开头的场景),六个项目中有三个实际上并不是被拒绝的主题。它们属于 Guardrails 已经原生提供的策略。

  • “关于如何制造武器的描述”属于一个普遍的安全类别,而不是银行特定的策略。它会被移动到内容过滤器 → VIOLENCE,并设置为 HIGH 强度。
  • “重复特定命名的竞争对手产品”是精确字符串阻止,而不是语义匹配。它会被移动到词过滤器,并将竞争对手名称作为字面条目。AnyCompany 银行最初的议题列表确实包括一个名为“竞争对手”的议题,用于此目的。该议题被删除,因为被拒绝的主题评估的是含义,会匹配竞争对手名称的普通提及,而无法匹配改写后的表达。
  • “提示注入或越狱尝试”是完全不同的信号。用户试图覆盖助手自身的指令,而不是询问某个领域。它会被移动到提示攻击策略。

经过清理后,AnyCompany 银行的 guardrail 配置组合了多个策略:

code
内容过滤器:
HATE 强度:HIGH
INSULTS 强度:HIGH
SEXUAL 强度:HIGH
VIOLENCE 强度:HIGH
MISCONDUCT 强度:HIGH

提示攻击:启用

词过滤器:
自定义词汇:[竞争对手产品名称列表]

被拒绝的主题:
1. 投资建议
2. 诉讼和非服务法律建议
3. 依据非公开信息进行交易
4. 诈骗调查请求

被拒绝的主题只包含四个银行特定的规则,其他策略无法表达这些规则。

最佳实践 8:避免这些反模式

以下模式会导致主题错误地阻止输入,即使定义的其余部分写得很好。应避免这些模式。大多数是之前最佳实践中已给出指导的具体案例,因此每条下列内容都指向完整推理的来源。

  • 将定义写成对 guardrail 的指令(“阻止所有与……相关的内容”)而不是对主题的描述。参见最佳实践 3。
  • 主要通过排除内容(“所有内容,除了……”)来定义,而不是通过描述主题本身。参见最佳实践 3。
  • 列出触发词(“包含像……这样的词的问题”)而不是描述概念。参见最佳实践 1 和最佳实践 3。
  • 使用被拒绝的主题来阻止特定的单词、短语或实体类型,例如竞争对手名称或人名。应使用词过滤器或敏感信息过滤器。参见最佳实践 7。
  • 在示例中列出国家、产品、竞争对手或公司名称,除非主题本身本质上就是关于该实体的。参见最佳实践 4。
  • 编写示例时对定义进行改写,而不是标记其边界。参见最佳实践 4。
  • 编写模糊的定义并依赖示例来传达含义。参见最佳实践 3 和最佳实践 4。

#### 尾随排除:一个注意事项和一个通用指南

简短的尾随排除并不是解决所有错误拒绝的通用方法。它能可靠地排除与主题在类别上明显不同的查询,例如不同的意图、不同的提问者或不同类型的内容。当一个良性查询几乎与定义的正面语言完全一致,只是针对不同的对象时,其可靠性较低。在这种情况下,排除与相似的措辞竞争,匹配通常会获胜。

对于这种结构相似的情况,建议使用以下三种替代方案之一:

  • 一种双条件锚点,它在定义中直接命名了可能混淆的情况(参见最佳实践 5)。
  • 一种重命名方式,将区分器提升到主题名称本身,这样在阅读定义之前就能看到门禁(gate)的存在(参见最佳实践 2)。
  • 一种上游意图路由步骤,在 Guardrails 看到之前,将模糊的情况传递给一个专门的流程处理。

对于其他所有情况,尾随排除仍然是第一步的正确选择。只有在测试显示排除项输给一个几乎相同的匹配项时,才考虑使用上述三种方式之一。

限制:结果并非完全确定

即使一个 guardrail 遵循了本文中的所有最佳实践,它也无法在所有可能的输入上产生完全确定的结果。Denied Topics 通过语言模型来理解含义,而语言模型的评估本身存在一些固有的变化。你应该计划应对这两种形式的变化。

重复相同请求时的变化。在极少数情况下,将完全相同的输入连续两次发送给相同的 guardrail 配置,可能会得到不同的结果。相同的字符输入,相同的主题列表适用,一切条件都相同,但一次调用被阻止,下一次却通过了。对于大多数输入,以及遵循上述指导原则的主题,这种情况不会发生,重复调用的结果是稳定的。例外情况是边界输入,其含义接近某个主题的语义边界。这些输入在重复时更容易发生变化。主题定义越精确(如动作范围明确、具体对象、清晰锚点、边界示例),你的输入中落入该边界区域的情况就越少。

主题列表变化时的变化。guardrail 在每次请求中都会将所有主题与输入一起进行评估。对主题列表的更改,如添加一个主题、删除一个主题或重新排序相同主题,可能会改变之前测试过的输入的结果。一个在某个主题列表中被阻止的输入,可能在另一个不同的主题列表中通过。当两个主题共享含义或某个主题定义较宽泛时,这种影响会更明显。当列表中的每个主题都有明确的、动作范围限定的定义和清晰的边界示例时,这种影响会减少。本文中提到的最佳实践可以显著减少这两种变化。

#### 如何应对这种变化

  • 不要将单次评估视为正确性的证明。对于重要的输入,多次测试它,并将其作为小型代表性评估集的一部分进行测试,而不是单独测试。
  • 保留一个包含边界情况的评估集。这些输入在你进行更改时最有可能发生变化。包括一些明确匹配、明确不匹配和接近边界的案例。
  • 在更改主题集后重新测试。添加一个主题、重命名一个主题、调整定义或重新排序列表,都可能影响之前表现正常的输入。
  • 对于正确性至关重要的输入,不要仅依赖 Denied Topics。将其与其他策略(如内容过滤、提示攻击、敏感信息过滤)结合使用,以确保在关键时刻没有单一策略成为唯一的防线。
  • 设计你的产品,使错误的阻止可以恢复。当主题涉及高风险时,将被阻止的输入路由给人类处理,为用户提供重新表述的方式,并记录阻止的原因代码,以便你能够进行审计和改进主题集。

注意:本文中所有通过或失败的声明均针对 Amazon Bedrock Guardrails(标准版)进行了端到端测试,每个查询重复多次以确认结果稳定。

主要结论

简要回顾,本文中提到的做法可以归纳为以下八点:

  • 将每个主题围绕用户的意图进行构建,用具体的行动来表达。诊断用户试图获取的内容,然后以表达该意图的行动来命名主题,而不是以查询接近的主题领域来命名。使用“投资建议”,而不是“金融”。
  • 编写定义以描述主题是什么。使用行动或内容类型开头,命名具体的对象,添加限定条件,并包括一两个子情况。
  • 使用最多五个边界示例。涵盖不同的子情况和句子结构。不要对定义进行改写,避免使用国家、产品和竞争对手名称。
  • 用上下文或目的锚定模糊主题。使用机构设置(“在大使馆”)或目的限定词(“为了用户的自身投资回报”)。当单个锚点不足以说明时,使用双重条件。
  • 管理重叠和主题数量。合并共享词汇的主题,将语义相似的主题分开列出,并在更改后重新测试。
  • 使用适合任务的政策。Denied Topics 用于自定义、业务特定的主题。Content Filter、Word Filter、Sensitive Information 和 Prompt Attack 覆盖了它们设计的类别。
  • 避免七种反模式。用指令代替描述、仅使用负面框架、关键字列表、实体捕获、示例中的命名实体、仅改写示例和占位符定义都会产生阻止错误输入的主题。
  • 要考虑到结果并非完全确定。保留一个边界评估集,在每次更改后重新测试,并设计产品以确保错误阻止可以恢复。

结论

Denied Topics 是一个强大的政策。借助它,您可以在简短的自然语言定义中描述一个定制的内容类别,而无需训练分类器或手动编写正则表达式。这种力量取决于以 guardrail 的方式描述类别:即用户意图,用特定对象上的特定行动来表达,而不是作为主题领域。正确地构建框架,本文中其余的做法,如命名、定义、示例、锚点、重叠管理以及政策选择,都会自然地落实到位。

在您的应用中应用这些做法:

  • 审计您现有的主题。对于每个主题,询问其名称是否描述了一个行动还是一个主题领域。将描述主题领域的主题重新命名。
  • 按照模板重写每个定义:[行动或内容类型开头] 为 [特定对象] 通过 [限定条件或目的]。包括 [一个或两个子情况]。
  • 将所有非主题信号移动到合适的政策。将通用安全内容发送到 Content Filter,将特定字符串发送到 Word Filter,将标识符发送到 Sensitive Information 过滤器,将越狱尝试发送到 Prompt Attack。
  • 构建一个小的评估集,包括明显匹配和接近边界但不匹配的示例,这些示例来自您实际的流量。在每次更改 guardrail 后重新测试。

要开始使用,请访问 Amazon Bedrock Guardrails 控制台和 Amazon Bedrock Guardrails 文档,以获取完整的政策参考和 API 详细信息,包括 CreateGuardrail 和 ApplyGuardrail。

关于作者

'"`