隐私字典

以 Markdown 格式查看

隐私字典让管理员定义 AIvis 在对话、智能体和模型请求离开可信部署边界前需要识别的敏感业务实体。它适合客户、项目、代号、受监管记录或机密术语等通用检测器不一定知道的组织专有标识。

该页面位于管理员配置区:管理后台 > 配置 > 隐私字典。在这里创建的词条会先作为草稿保存,只有发布为字典版本后才会进入运行时保护。运行时使用最新发布版本,因此未完成的草稿不会影响正在使用的会话。

能力边界

项目建议
组织规则定义适用于当前组织的敏感实体、别名和处理动作。
模型请求在已批准模型 Provider 接收请求内容前应用字典规则。
私有化部署原始敏感值和字典草稿保留在企业控制的部署环境内。
审查状态将需要审查的词条视为策略信号;不要假设每个部署都有面向用户的预览确认步骤。

词条字段

字段说明
实体 ID管理员定义的稳定标识,例如 customer_alphaproject_mercury。建议使用可跨改名保留的值。
实体类型用于报告和替换标签的分类,例如组织、项目、人员、地点、邮箱、手机号或凭据类型。
敏感原值需要检测的标准值。除编辑表单外,原值默认会被遮罩。
别名应匹配到同一实体的替代名称或缩写。请谨慎拆分别名,避免匹配范围过宽。
处理动作命中后的运行时处理策略。选择能支持业务流程的最小放行动作。
作用域公开文档当前覆盖组织级词条。如果某个部署暴露更细作用域,依赖前请先确认运行时合同。

处理动作

动作行为适合场景
令牌化将原值替换为稳定隐私占位符,并保留多次出现指向同一实体的信息。模型需要保持一致引用,但不需要看到原值,例如客户名、项目代号、邮箱地址或账号标识。
泛化将原值替换为类别标签,不保留可逆映射。模型只需要知道实体类别,例如组织、地点、人员或项目。
仅本地处理阻止外部处理;只有存在合规本地路由时,请求才可以继续。内容可由已批准的本地模型或本地服务处理,但不能离开部署边界。
阻止只要命中该实体就停止请求。该值不应被处理,即使在本地也不处理,或风险高于业务收益。
确认后允许将请求标记为继续前需要审查。业务上可能允许处理,但应由人工或策略控制的审查步骤决定。

运行时流程

阶段行为
草稿管理员创建或编辑词条,不影响运行时行为。敏感值只在当前表单或临时查看窗口中可见。
发布获批草稿发布为不可变字典版本。该版本成为后续检查使用的运行时合同。
检测AIvis 扫描即将发往模型的请求内容,查找已发布的原值和别名。
决策最严格的命中动作决定内容是令牌化、泛化、走本地、阻断还是进入审查。
发送只有决策允许外部处理时,外部 Provider 才会收到脱敏后的 payload。被阻断或缺少本地路由的请求不会继续。

按数据类型选择动作

数据类型推荐动作原因
客户、供应商或项目代号令牌化保留多次引用之间的一致性,同时不暴露原值。
不需要精确身份的组织、人员或地点泛化保留推理所需类别信息,降低披露程度。
密码、私钥、连接串或生产凭据阻止这类值不应发送给模型,也不应作为普通提示上下文处理。
只能在私有化部署内处理的受监管记录仅本地处理在存在合规本地路由时,把处理限制在部署边界内。
需要逐案判断的边界业务内容确认后允许用审查策略信号替代自动允许外部处理。

运维建议

  • 使用不包含敏感原值的稳定实体 ID。
  • 控制别名范围。过宽的别名可能误命中并阻断无关工作。
  • 对模型需要在对话中持续跟踪的业务术语,优先使用令牌化。
  • 当精确身份不重要时,优先使用泛化。
  • 对密钥和绝不应进入提示上下文的值,使用阻止。
  • 小批量发布,并在大范围上线前核验生成的字典版本。
  • 在隐私审查中定期检查停用或退役词条。

验证

在生产环境依赖字典规则前,请完成以下验证:

  • 创建草稿词条,关闭表单后确认敏感值仍然隐藏。
  • 发布草稿,并确认当前字典版本递增。
  • 发送一条同时包含标准值和别名的测试对话。
  • 确认模型回复没有泄露敏感原值。
  • 测试一个令牌化词条,确认多次出现仍能保持语义一致。
  • 测试一个泛化词条,确认回复只使用类别级上下文。
  • 使用部署已配置的模型路由测试仅本地处理和阻止词条。
  • 按部署策略查看追踪、查询历史或管理员日志。

常见问题排查

现象可能原因处理方式
新词条没有影响对话词条仍是草稿,或会话开始时尚未使用发布后的版本。发布草稿,开启新会话,并确认当前字典版本。
太多请求被阻断敏感原值或别名过宽,或本可使用令牌化/泛化的场景选择了阻止。收窄别名,并选择仍能支持业务流程的最小放行动作。
敏感术语未被检测到该术语未加入别名、使用了另一种写法,或添加后尚未发布新版本。添加别名,发布新版本,并用用户实际写法测试。
仅本地处理请求被阻断当前模型配置没有可用的合规本地处理路由。配置本地路由;如果不批准本地处理,则改用阻止。
需要审查的请求没有出现预览步骤当前部署可能只把需要审查作为策略状态,而没有暴露交互式确认流程。使用该动作做面向用户的审批前,先确认已部署的审查工作流。

相关页面