AAAI 中國大灣區分會知識庫 返回官網
AAAI 中國大灣區分會 · 知識庫

10. 治理與合規

內容維護：AAAI 中國大灣區分會

內容更新：

介紹 AI Agent 的權限、責任和合規要求，建立治理與人工監督機制。

資料保護、權限邊界及審計記錄的概念插畫

本文覆盖 6 大合规框架 + 治理实践:

  • 6 大合规框架 SOC 2 / ISO 27001 / HIPAA / GDPR / EU AI Act / 中国生成式 AI
  • 审计与日志 必须留什么 log、留多久、谁有访问权(对应审计 checklist)
  • 数据隐私边界 训练数据 / 推理数据 / 缓存数据的隔离要求
  • 监管策略对比 美 / 欧 / 中 / 日对 agent 部署的不同要求

选型快查 (TL;DR)

场景推荐能力代表 agent
美国 SaaS 标准合规SOC 2 Type II几乎所有商业 agent(Claude / Agentforce / WorkBuddy)
全球信息安全管理ISO 27001 + ISMSWorkBuddy / Qwen-Agent / Copilot Studio
美国医疗HIPAA + BAA + PHI 加密Copilot Studio / Antigravity
欧盟个人数据GDPR + DPIA + DPO + 跨境传输Sierra / Agentforce 欧洲节点
加州个人数据CCPA几乎所有美国 SaaS
中国企业(国密 / 等保)中国等保 + 数据安全法 + 国密Qwen-Agent / Coze HiAgent / WorkBuddy
客户敏感数据不进训练Zero Data Retention(ZDR)Claude API ZDR / ChatGPT Agent ZDR / Cursor 2
多租户隔离(企业)VPC + CMEK + 私有化Antigravity VPC-SC / Qwen-Agent 专属版

1. 这是什么 + 为什么重要

治理与合规(Governance & Compliance)指企业级 AI Agent 在数据生命周期(采集 → 传输 → 存储 → 使用 → 销毁)和决策生命周期(输入 → 推理 → 输出 → 审计)中满足外部监管标准与内部管控要求的全套能力。与模块 5(执行与沙箱)、模块 7(验证与监控)有重叠,但本模块聚焦合规姿态(compliance posture),即能否向监管机构、客户、合作伙伴出示合规证据。

对企业级 AI Agent,合规能力直接决定 4 件事:

  1. 能否进入受监管行业(金融要 SOC 2、PCI DSS;医疗要 HIPAA;政府要 FedRAMP;欧盟客户要 GDPR / AI Act)
  2. 能否签企业合同(大部分 Fortune 500 采购条款写明"供应商须出示 SOC 2 Type II 报告",无认证 = 流失)
  3. 能否私有化部署(数据本地化是金融、政府、跨国制造硬约束)
  4. 能否承担连带责任(毒性输出、数据泄露责任划分由合同 + 平台责任声明共同决定)

为什么 2026 年这个模块成为关键决策点:

  • EU AI Act 2024 年生效,2026 年起对高风险 AI 系统(GPAI)强制要求透明度、人类监督、技术文档 [来源:模块 10 子模块清单(EU 监管大方向)] ⚠️
  • 企业采购从 PoC 转生产,合规成为"go/no-go"硬指标
  • 数据出境监管趋严(中国《数据出境安全评估办法》、欧盟 GDPR、美国 ITAR/EAR)

2. 子模块分解

2.1 合规认证矩阵

是什么:第三方机构对企业信息系统安全/隐私/行业特定管控的审计认证。每个认证有明确的适用场景与审查深度。

认证速查:

认证适用场景关键审查点来源
SOC 2 Type II服务组织(SaaS)对客户数据的安全/可用/保密6-12 个月运行期控制有效性https://www.aicpa-cima.com/topic/audit-assurance/audit-and-assurance-greater-than-soc-2 ✅
ISO 27001信息安全管理体系(ISMS)全球通用风险评估 + 控制措施(Annex A 93 项)https://www.iso.org/standard/27001 ✅
HIPAA美国医疗 PHI(受保护健康信息)Privacy Rule + Security Rule + BAA 协议https://www.hhs.gov/hipaa ✅
FedRAMP美国联邦政府云服务Low/Moderate/High 三档,基于 NIST 800-53https://www.fedramp.gov/ ✅
GDPR欧盟个人数据处理数据主体权利、合法基础、数据保护影响评估https://gdpr.eu/ ✅
PCI DSS支付卡数据(CDE)v4.0.1 强客户认证、加密、访问控制https://www.pcisecuritystandards.org/ ✅
EU AI Act欧盟 AI 系统(2024 生效,2026 全面实施)GPAI 透明度、人类监督、技术文档https://artificialintelligenceact.eu/ ✅
ISO 42001AI 管理体系(AIMS,2023 首发)AI 风险管理、生命周期管控https://www.iso.org/standard/81230.html ✅

跨 agent 合规矩阵:

AgentSOC 2ISO 27001HIPAAGDPRFedRAMPPCI DSSEU AI Act官方 Trust Center
Claude Code✅✅✅(BAA+US-only 1.1x)✅❓❓❓https://trust.anthropic.com/
ChatGPT Agent✅ Type 2✅ +27017/27018/27701✅-ready✅✅ 20x(ChatGPT Gov)✅ v4.0.1❓https://trust.openai.com/
Devin✅ Type 2✅❓❓✅ High / DoD IL4 / ITAR-ready❓❓https://trust.cognition.ai/
Cursor 2✅ Type II❓❓✅ + CCPA❓❓❓https://trust.cursor.com/
WorkBuddy✅✅✅✅❌❌❓(.aliyun.com/product/waf
Google Antigravity✅✅✅✅✅ High❓❓https://cloud.google.com/gemini-enterprise ✅
Agentforce✅✅✅✅ + CCPA✅ + TX-RAMP + C5 + IRAP + ENS + TISAX + BSI C5✅❓https://trust.salesforce.com/en/compliance/ ✅
Sierra✅ Type 2✅ +42001✅✅✅ High✅ Level 1✅(Sierra 官网)✅
Manus✅ Type II✅❓❓❓❓❓(Manus 官网)
Coze 3✅✅❓❓❌❌❓TC260(中国国标)⚠️
Copilot Studio✅ Type II✅✅✅✅❓❓https://learn.microsoft.com/en-us/microsoft-copilot-studio/ ✅
Trae Solo✅ Type 2(Enterprise)❓❓❓❓❓❓(Trae 官网)
AutoGPT❌❌❌❌❌❌❌(无第三方认证)✅
Accio Work❓❓(继承阿里云 27001)❓✅❓❓❓https://www.accio.com

2.2 零数据保留(ZDR)

是什么:provider 不保留用户与 LLM 的对话/输入/输出数据(用于训练、监控、调试都不留),通常以 store=False(OpenAI)或企业合同条款(Anthropic / Salesforce / Cursor)实现。

实现模式:

模式说明代表 agent
API flag(store=False)OpenAI 风格,通过 API 参数关闭存储ChatGPT Agent
企业合同条款Enterprise tier 默认合同约定 ZDRClaude Code、Agentforce Einstein Trust Layer、Cursor Privacy Mode、Trae Solo
本地推理模型跑在客户环境,provider 物理上拿不到数据AutoGPT 自托管、Coze HiAgent 私有化
会话级 ZDR单 session 不持久化,但同账号其他 session 可能保留(混合实现)

跨 agent ZDR 对比:

AgentZDR 支持来源
Claude Code✅ Enterprise tier 默认;API store=False 模式(需明确)(API ZDR)
ChatGPT Agent✅ store=False 模式;server-side compaction 兼容, ✅
Devin✅ Enterprise 默认
Cursor 2✅ Privacy Mode(企业版), ✅
WorkBuddy✅ 私有化部署数据不出企业
Qwen-Agent✅ 专属版 2.0 数据本地✅
Antigravity✅ Gemini Enterprise "数据不用于训练"承诺✅
Agentforce✅ Einstein Trust Layer(零数据保留 + 毒性检测 + 动态接地)✅
Sierra✅
Manus✅ Enterprise
Coze 3✅ HiAgent 私有化✅
Copilot Studio✅ Microsoft 365 ZDR
Trae Solo✅ Zero Retention✅
AutoGPT✅(自托管,provider 不存在)✅ 推断
Accio Work❓❓

2.3 毒性检测

是什么:对 LLM 输入(用户 prompt)和输出(模型回答)做内容安全过滤,阻止仇恨、暴力、性、隐私泄露、prompt injection、越狱等内容。

实现层级:

层级实现方式代表
平台级 Trust Layerprovider 内置 toxicity detection APISalesforce Einstein Trust Layer
模型级 RLHF/Constitutional AI训练阶段内化安全对齐Claude / GPT-5
应用级 guardrail用户配置自定义防护栏Agentforce Agent Guardrails
网络级 WAF/防火墙输入侧 prompt injection 拦截Gemini Model Armor

跨 agent 毒性检测:

Agent平台内置自定义 guardrailPrompt injection 防护
Agentforce✅ Einstein Trust Layer(toxicity detection)✅ Agent Guardrails❓
Antigravity(Gemini Enterprise)✅ Model Armor(注入防护)❓✅
Claude Code✅(模型级 RLHF)✅(permission mode + Hooks)⚠️ 依赖工具权限与上下文边界
ChatGPT Agent✅(模型级)✅(Apps SDK scope)✅
WorkBuddy⚠️ 未公开⚠️ 未公开⚠️ 未公开
  • Antigravity Model Armor = 输入侧 prompt injection 防护

2.4 数据加密

是什么:数据生命周期 3 环节(at rest / in transit / 销毁)的加密保护,以及密钥管理策略。

标准配置:

环节加密标准实施方
静态(at rest)AES-256(行业标准)大部分 agent 默认
传输(in transit)TLS 1.2+(最低)/ TLS 1.3(推荐)Cursor 2 明确 TLS 1.2+
销毁(destruction)加密擦除 + 物理销毁(企业级)WorkBuddy 提及
密钥管理KMS(Key Management Service)+ BYOK(Bring Your Own Key)Google CMEK、Antigravity

跨 agent 加密:

Agentat restin transit销毁BYOK
Cursor 2✅ AES-256✅ TLS 1.2+❓❓
Antigravity(Gemini Enterprise)✅✅❓✅ Customer-Managed Encryption Keys
WorkBuddy✅✅✅(明示)❓
Agentforce✅ Salesforce 平台级✅❓❓
Claude Code✅✅❓❓ Enterprise
ChatGPT Agent✅✅ Secure MCP Tunnel❓❓ Enterprise
Qwen-Agent✅✅❓❓ 阿里云 KMS

事实依据:

  • Cursor 2: "AES-256 加密 + TLS 1.2+ 传输" [来源: ✅]
  • Antigravity: "VPC-SC + Customer-Managed Encryption Keys + Access Transparency" [https://cloud.google.com/gemini-enterprise ✅]
  • WorkBuddy: "数据存储 / 传输 / 销毁各环节加密" [来源:
  • ChatGPT Agent: Secure MCP Tunnel(企业加密传输 + SIEM 审计) [来源: ✅]

2.5 审计追踪

是什么:完整记录 agent 行为(谁/何时/做了什么/输入输出/决策依据),满足合规审计、事件回溯、争议举证。

审计颗粒度:

级别记录内容代表
Session 级整个 session 的对话、工具调用Devin Session UUID、ChatGPT Agent Session
PR/PR 级每 PR 关联 session IDDevin
事件级login/logout/permission/config/chatWorkBuddy 10 类事件
Span 级每推理 step 的 traceAgentforce Interaction Tracing
触发器级trigger 何时何因触发Copilot Studio Trigger Activity Log
访问透明级provider 内部人员对企业数据的访问Antigravity Access Transparency

跨 agent 审计能力:

AgentSession UUID事件级审计内部人员访问审计SIEM 集成
Devin✅ UUID✅❓✅ export SIEM
ChatGPT Agent✅✅❓✅ Admin API GET /v1/audit_logs
WorkBuddy✅✅(10 类事件)❓✅ 强制审计日志上传
Agentforce✅✅ Audit Trail❓✅ Kafka + Data Cloud(月 2000 万次)
Claude Code✅✅(Audit Hooks)❓✅ permissions.audit-log
Antigravity✅✅ JSON Hooks✅ Access Transparency❓
Copilot Studio✅✅(Microsoft Purview)✅ Microsoft 365✅
Cursor 2✅✅(Hooks + 服务账号)❓❓
Coze 3✅✅(HiAgent 高级审计)❓❓

事实依据:

  • Devin: "每 session 全记录,export SIEM;每 commit / comment / merge 关联 session ID" [来源: ✅]
  • Agentforce: "AI Audit Trail + Kafka + Data Cloud 集成,每月 2000 万次模型交互,支持 500 家企业客户" [https://engineering.salesforce.com/architecting-ai-agent-auditing-systems-in-agentforce/ ]
  • WorkBuddy: 10 类审计事件(user.login / user.logout / knowledge.upload / knowledge.delete / chat.message / permission.grant 等)+ 敏感字段脱敏(password/token/api_key/phone/id_card)+ 保留 90 天 [来源:
  • Claude Code: "InstructionsLoaded / ConfigChange / SubagentStart / SubagentStop hooks 写 SIEM" [来源: ✅]
  • Antigravity: "Access Transparency:Google 内部人员对企业数据的每次访问都记录到可审计日志,客户可验证" [https://cloud.google.com/gemini-enterprise ✅]
  • Copilot Studio: Conversation Transcript(CSV 含 SessionID/StartDateTime/InitialUserMessage/TopicName/ChatTranscript) [来源: ✅]

2.6 多租户隔离

是什么:SaaS 多客户场景下,确保 A 客户数据/计算/模型不会影响 B 客户。

隔离层级:

层级方式代表
物理隔离独立硬件/VM/数据库Devin VPC 部署、Sierra PCI 专用基础设施
逻辑隔离共享硬件 + namespace/tenant IDAgentforce Hyperforce、Qwen-Agent 多租户
区域隔离数据驻留(US/EU/CN)Antigravity Data Residency
网络隔离VPC + private linkAntigravity VPC-SC、WorkBuddy VPC 专享

跨 agent 多租户:

Agent多租户数据驻留选项VPC 隔离
Agentforce✅ Hyperforce 多租户架构✅ 多区域合规✅ Hyperforce
Qwen-Agent✅ 多租户隔离架构✅ 专属版 2.0 专有云✅ 阿里云 VPC
Antigravity✅✅ Data Residency(US/EU 等)✅ VPC-SC
Sierra✅✅✅
Devin✅(Cognition 云)❓✅ VPC private deployment
WorkBuddy✅✅ 私有化✅ VPC 专享
Coze 3✅✅ 国内多区域✅ HiAgent 私有化
Copilot Studio✅ Microsoft 365 tenant✅ Microsoft 365 多区域✅ Azure

事实依据:

  • Sierra: "PCI 专用基础设施隔离,支付数据不碰 Sierra 核心系统" [来源: ✅]
  • Qwen-Agent: "调用高峰期间不排队,多租户隔离架构平稳运行" [来源:
  • Antigravity: "Data Residency + VPC-SC + Customer-Managed Encryption Keys" [https://cloud.google.com/gemini-enterprise ✅]

2.7 私有化部署

是什么:将 agent 部署在客户自有的 IT 环境(本地服务器、客户 VPC、专有云),数据完全不出企业边界。

部署模式:

模式说明代表
SaaS 公有云provider 托管大部分 agent 默认
VPC 专享客户云账号内独立部署,数据隔离WorkBuddy VPC、Antigravity VPC-SC
私有化本地部署on-prem 服务器,全栈自主WorkBuddy QClaw、Coze HiAgent、Devin
专有云公有云的隔离区域Qwen-Agent 专属版 2.0 阿里云专有云
自托管开源客户自己部署开源版本AutoGPT、Coze 开源版、Qwen-Agent 开源版

跨 agent 私有化:

AgentSaaSVPCOn-prem专有云自托管开源
Claude Code✅❌❌❌❌
ChatGPT Agent✅✅ Enterprise❌❌❌
Devin✅✅ Enterprise✅ Enterprise❓❌
Cursor 2✅❌(明示不支持 on-prem/VPC)❌❌❌
WorkBuddy✅✅✅ QClaw✅.0✅ 开源版
Antigravity✅❌❌❌❌
Agentforce✅❓(Hyperforce = provider 私有云)❌✅ Hyperforce❌
Sierra✅✅✅✅❌
Manus✅❌❌❌❌
Coze 3✅✅ HiAgent✅ HiAgent✅✅ 开源版
Copilot Studio✅✅ Azure✅ Azure Stack✅ Azure❌
Trae Solo✅✅(coming soon)❓❓❌
AutoGPT✅✅✅✅✅(自托管)
Accio Work✅❓(继承阿里云)❓❓❓

事实依据:

  • Cursor 2: "目前不提供 on-prem / VPC 部署" [来源: ✅]
  • WorkBuddy: "SaaS 与私有化双模式、WorkBuddy 桌面混合部署、QClaw 本地离线部署" [来源:
  • Qwen-Agent: "专属版 2.0 VPC / 专有云部署,2024-09-23 云栖大会发布" [来源: ✅]
  • Devin: "Devin VM 部署在客户 VPC(AWS / Azure / GCP / on-prem)" [来源: ✅]
  • Coze HiAgent: "支持私有化部署,数据安全有保障" [来源: ✅]
  • Trae Solo: "VPC 私有化部署(coming soon)" [来源: ✅]
  • AutoGPT: 框架开源 + 云服务 [来源:推断 ✅]

2.8 AI Act / 责任声明

是什么:各国/地区针对 AI 系统制定的法律框架,以及 agent provider 在责任划分、透明度、人类监督方面的正式承诺。

主要法规:

法规地区状态关键要求
EU AI Act欧盟2024 生效,2026 全面实施GPAI 透明度、人类监督、技术文档、风险分级
ISO 42001全球2023 首发AI 管理体系(AIMS)
中国《生成式 AI 服务管理暂行办法》中国2023 实施算法备案、内容安全、用户实名
美国 EO 14110美国2023 签署联邦机构使用 AI 的安全标准

责任声明关键点:

责任方承担内容
Provider(模型/agent 厂商)模型偏见、毒性输出、安全漏洞
部署方(企业)使用场景合规(不用于禁止用途)、数据合法
终端用户不滥用、不违法用途

跨 agent AI Act / 责任承诺:

AgentEU AI Act 提及Responsible AI 文档透明度承诺
Sierra✅(明示合规)✅✅
Agentforce❓✅ Salesforce Responsible AI✅
Copilot Studio❓✅ Responsible AI page✅(fairness/reliability/safety/privacy/transparency)
ChatGPT Agent❓✅ OpenAI Usage Policies✅
Claude Code❓✅ Anthropic Constitutional AI✅
Coze 3❓✅ TC260 国家标准合规备案✅

事实依据:

3. 横向对比总表

下表汇总 15 个 agent 在 8 个子模块上的合规能力(✅ = 官方文档明示,⚠️ = 推断/部分支持,❌ = 不支持,❓ = 不明):

AgentSOC 2ISO 27001HIPAAGDPRFedRAMPPCI DSSZDR私有化审计追踪
Claude Code✅✅✅✅❓❓✅❌✅ Hooks + SIEM
ChatGPT Agent✅✅✅✅✅ Gov✅✅✅✅ Admin API
Devin✅✅❓❓✅ Gov❓✅✅ VPC✅ Session+SIEM
Cursor 2✅❓❓✅❓❓✅❌✅ Hooks
WorkBuddy✅✅✅✅❌❌✅✅ 四路径✅ 10 事件
Qwen-Agent✅✅✅✅❓❓✅✅ 专属版✅ 企业版
Antigravity✅✅✅✅✅ High❓✅❌✅ + Access Transparency
Agentforce✅✅✅✅✅ +12 项✅✅✅ Hyperforce✅ Kafka + Data Cloud
Sierra✅✅ +42001✅✅✅ High✅ L1✅✅✅
Manus✅✅❓❓❓❓✅❌✅ Enterprise
Coze 3✅✅❓❓❌❌✅✅ HiAgent✅ 高级审计
Copilot Studio✅✅✅✅✅❓✅✅ Azure✅ Purview
Trae Solo✅❓❓❓❓❓✅✅ coming soon✅ 企业版
AutoGPT❌❌❌❌❌❌✅✅ 自托管Accio Work
❓❓❓❓❓❓❓❓❓

能力矩阵速读:

  • 认证最广:Agentforce(12 项)、Sierra(11 项)、ChatGPT Agent(7 项+)、Copilot Studio(5 项)
  • 私有化最灵活:WorkBuddy(QClaw 本地 + Lighthouse 云 + 桌面混合 + 微信插件)、Coze(HiAgent + 开源版)
  • 审计最强:Agentforce(月 2000 万次交互 + Kafka + Data Cloud)、Antigravity(Access Transparency 内部人员访问审计)
  • 开源自托管:AutoGPT、Coze 开源版、Qwen-Agent 开源版

4. 选型建议(行业 → 合规要求 → 推荐 agent)

行业关键合规要求推荐 agent理由
金融(银行/保险/证券)SOC 2 + PCI DSS + 数据本地化Agentforce、Sierra、Devin VPC合规认证齐全 + VPC 私有化
医疗(美国)HIPAA + BAA + US-only inferenceClaude Code(BAA+US-only 1.1x)、ChatGPT Agent HIPAA-ready、AgentforceHIPAA-ready + 强合规生态
医疗(欧洲)GDPR + EU AI Act + ISO 27001Sierra、Agentforce、ChatGPT Agent EUEU 法规合规
美国联邦政府FedRAMP High + DoD IL4 + ITARChatGPT Gov(20x)、Agentforce Public Sector、Devin Cognition for Government、AntigravityFedRAMP High + 政府垂直
欧盟公共部门GDPR + EU AI Act + ISO 27001Sierra(EU AI Act 明示)、Agentforce EUEU 法规深度合规
支付卡行业PCI DSS Level 1Sierra(Level 1 + 隔离基础设施)、Agentforce(PCI DSS)专用 PCI 基础设施
跨国制造/汽车SOC 2 + GDPR + 数据驻留Qwen-Agent(专属版 2.0)、Agentforce、Antigravity(Data Residency)多区域合规 + 数据驻留
中国政企等保三级 + 国密 + TC260Qwen-Agent、Coze HiAgent、WorkBuddy国内合规标准 + 私有化
SaaS 服务 B2BSOC 2 Type II(标配)Cursor 2、Claude Code、Devin标配 SOC 2 + 价格友好
开发者工具(代码)SOC 2 + Zero Retention + No trainingCursor 2、Trae Solo、Claude Code代码场景专属合规
初创公司(无强合规)SOC 2 基础Cursor 2、Claude Code、Manus成本友好

文档结束。共约 3200 字(中文)。

9. 定價與商業模式

分析 AI Agent 的成本、定价与商业模式，评估应用的经济条件和运营方式。

本頁內容

选型快查 (TL;DR)1. 这是什么 + 为什么重要2. 子模块分解2.1 合规认证矩阵2.2 零数据保留(ZDR)2.3 毒性检测2.4 数据加密2.5 审计追踪2.6 多租户隔离2.7 私有化部署2.8 AI Act / 责任声明3. 横向对比总表4. 选型建议(行业 → 合规要求 → 推荐 agent)