Skip to content

面向非开发团队的 Agent Desktop:从 Claude Cowork 和 ChatGPT Work 看企业级知识工作环境

Published: at 12:00 AM

面向非开发团队的 Agent Desktop:从 Claude Cowork 和 ChatGPT Work 看企业级知识工作环境

Agent Desktop 不是一个增加了文件访问和 MCP 工具的聊天窗口。企业知识工作往往跨越多个系统和多个步骤:分析师要核对数据口径,研究员要整理来源并验证结论,架构师要把需求与现有系统联系起来,审核员则要追溯证据、规则和审批记录。单轮问答很难承载这样的工作。

更合适的定位是任务工作台(Knowledge Work Environment)。用户提交目标、材料和交付要求,Agent 在明确的权限范围内检索信息、调用系统、分析资料并生成成果;用户可以查看进度、修正方向、检查依据,并决定是否批准后续动作。最终交付物应能编辑、复核、归档和追溯,而不是只留在对话里。

Claude Cowork 和 OpenAI 的 Agent、Deep Research、Work 展示了这类产品的不同实现方式。它们的功能边界还在变化,本文不按某一版本罗列功能,而是从公开资料中提炼产品设计和企业落地时需要解决的架构问题。

1. 产品实践:Claude 和 OpenAI 分别解决了什么问题

Claude:把开发者的 Agent 执行能力带到知识工作

Anthropic 在 2026 年把 Claude Cowork 推向更广泛的企业用户。公开描述的典型任务包括研究冲刺、项目材料、协作演示文稿、数据整合和跨应用工作。其产品组合把文件工作区、Connectors、Skills、Plugins、子任务和较长时间运行的任务结合起来。Anthropic 在 2026 年 4 月的企业公告中提到,Cowork 的大量使用来自工程以外的团队,包含运营、市场、金融和法律职能;这些团队首先把周边研究、材料准备和协作任务交给 Agent,而不是直接交出核心业务决策。

这类产品给出的启示并不复杂:用户应该描述要完成的工作和交付标准,而不是先理解 Agent Framework、MCP 或 Prompt Engineering。系统负责选择合适的工具和流程,成果则应进入 Excel、PowerPoint、文档库、工单系统等日常工作环境,不能只保存在聊天记录中。

Anthropic 在 2026 年 11 月还开始向 Enterprise 组织推出统一的 Claude 体验:对话从普通 Chat 开始,任务需要文件或代码执行时再进入 Cowork 的隔离云端环境,用户不必先理解产品模式差异。入口从“先选工具”转向“直接描述任务”,降低了使用门槛;但系统仍应明确显示任务何时切换执行环境、使用了哪些连接器,以及本地文件通过什么方式被访问。参见 统一 Claude Enterprise 体验的管理说明。

Anthropic 的另一项公开资料更值得架构师仔细阅读:How we contain Claude across products。它比较了 Claude Code 与 Cowork 的安全边界。开发者通常能够判断 Shell 命令和代码修改是否合理,因此 Claude Code 可以把一部分权限判断交给用户;普通知识工作者未必能判断命令行行为是否危险,Cowork 因此采用更强的隔离边界。Anthropic 的安全研究描述了 Cowork 的本地 VM 执行模式:用户明确选择的工作区被挂载到隔离环境,凭证留在宿主机,Agent 不会因此获得整台电脑的访问权。需要区分的是,当前 Cowork 的云端任务也可以运行在 Anthropic 管理的隔离环境中;桌面端通过受控桥接访问用户明确连接的本地文件夹。两种模式的执行位置不同,但共同原则是把 Agent 可见的文件范围限制在用户和组织授权的边界内。参见 Cowork 使用与权限说明。

这并不是多加几次确认就能解决的问题。Anthropic 在安全架构研究中披露,Claude Code 的 OS 沙箱将权限提示数量减少了 84%。这项数据来自 Anthropic 自身的工程披露,不能视为独立对照实验。不过,它反映了一个实际问题:逐次弹出权限提示并不等于有效监督。提示过多会造成审批疲劳,用户最后可能不再认真判断。

OpenAI:把研究、浏览器操作和桌面工作整合起来

OpenAI 在 2025 年推出 ChatGPT agent,将研究和行动组合到一个任务中:Agent 可以使用自己的虚拟计算机浏览网站、运行代码、分析资料,并在连接器允许的范围内访问第三方数据。产品说明也强调用户可以中断任务并接管浏览器。此后,Deep Research 继续强化多来源研究与报告生成;企业连接器将 SharePoint、Google Drive、Slack 等系统的数据带入任务;OpenAI 在2026 年 7 月的企业版本更新记录中宣布新的 ChatGPT Desktop 将 Chat、Work 和 Codex 放到统一桌面入口,Work 在获得用户许可后可以使用本地文件和桌面应用。

OpenAI 的产品方向也从单次任务扩展到组织级复用。Workspace Agents 允许组织创建可重复使用的工作流程,并在 ChatGPT 或 Slack 中运行;企业版本更新还加入了管理员分析、Agent 活动信息和审计日志。这意味着 Agent 开始成为需要配置、运营和审计的组织资产,而不只是个人助手。

不过,产品提供管理界面和审计事件,不代表企业已经获得完整的端到端治理能力。OpenAI 的企业发布说明列出了 Workspace Agents、RBAC、连接器交互分析和 Global Admin Console 审计事件;这并不意味着每一个 Agent 在每个下游系统中的动作都已经被同一条审计链完整覆盖。实际部署仍需检查 Compliance Logs Platform、Agent 事件范围以及目标 SaaS 自身的审计日志,并将它们关联起来。

官方资料:

两家产品的共同方向与差异

维度Anthropic ClaudeOpenAI ChatGPT
面向知识工作的入口Claude Cowork、Claude Desktop、Connectors、Skills / PluginsChatGPT Desktop、Work、Deep Research、Agent、Workspace Agents
长任务Cowork 的多步骤任务、子任务和持续执行Agent、Deep Research、Workspace Agents
文件与应用选择工作区、连接器、Office 应用集成本地文件和桌面应用授权、企业连接器
企业复用Skills、Plugins、组织级连接器控制Workspace Agents、GPTs、连接器和管理员控制
安全设计公开重点当前云端隔离执行与 Desktop Bridge;另有早期本地 VM 设计研究云端虚拟计算机、Work Local 权限面和企业策略控制
运营可见性OpenTelemetry、Compliance API、组织分析Compliance Logs Platform、Admin Audit、Agent 与连接器分析

表格归纳的是公开资料呈现的产品方向,不代表功能完整度或安全性排名。相关能力和套餐可能调整,采购前仍需核对当前官方文档、租户实际配置及合同条款。

2. Agent Desktop 的核心架构

Agent Desktop 没必要重新建设企业身份、权限、数据目录和流程引擎。它应负责统一入口、任务管理和执行协调,底层尽量复用现有 IAM、文档平台、数据平台、Workflow、API Gateway、审计和 DLP。

Agent Desktop 参考架构:工作台、Agent Runtime、企业控制平面和业务系统

用户界面层负责任务创建、上下文选择、执行观察、结果审查和交付物管理。Agent Runtime 负责计划、模型调用、工具路由、上下文组装、长任务状态和恢复。企业控制平面负责身份、策略、工具目录、模型准入、风险等级、审批和审计。连接器与工具层则把 SharePoint、Confluence、Snowflake、CRM、ServiceNow、邮件和浏览器等系统暴露为受控能力。

这些模块初期可以部署在同一个应用中,没有必要为了形式上的分层拆成一组微服务。真正需要隔离的是职责和权限:UI 不保存下游系统的高权限凭证,模型不能决定授权结果,Agent 也不能靠 Prompt 绕过业务系统的权限检查。

2.1 以 Task 为中心,而不是以 Chat 为中心

聊天记录能保存交互过程,却不能代表一项业务工作。Task 应成为独立对象,记录目标、业务上下文、发起人和责任人、输入资料、授权范围、执行状态、交付物、证据引用、审批记录及运行轨迹。

Task 可以跨多个会话继续执行,也可以暂停等待人工输入、审批或外部事件。用户打开桌面端时,看到的应该是正在进行的工作、等待自己处理的事项、已完成的交付物和可复用的工作模板,而不是一长串没有业务状态的对话。

Task 的状态必须由 Runtime 或 Workflow 管理,不能以模型在对话中说“完成了”作为业务完成的依据。例如,Agent 生成了合同审查报告,只能说明分析产物已生成;只有当报告经过指定审核人批准并归档到正式系统,业务流程才算完成。

2.2 工作区与上下文必须有明确边界

用户选择项目、客户或研究主题后,系统应列出工作区实际包含的文件、数据源和连接器。工作区不能自动继承整台设备的文件权限,也不能把一个任务的敏感上下文带到另一个客户或项目。Task、Workspace、Artifact 和 Evidence 还应有明确的生命周期关系:Artifact 继承来源数据的分类和访问约束;Evidence 保存来源、版本、时间和关联的 Task;任务结束后按业务留存策略归档或删除临时文件、缓存和授权,而不是默认永久保留。

本地文件访问、云端执行和连接器访问是三种不同的数据路径。它们有不同的安全边界、日志位置和网络控制方式。Claude Cowork 的本地 VM 与云端隔离执行说明了为什么“用户选中的文件夹”比“Agent 可以读取整台电脑”更合理;OpenAI 的虚拟计算机则属于 Agent 自己的云端执行环境,不能与 Work 在桌面端获得授权的本地应用访问混为一谈。产品必须明确告诉用户:当前任务在哪里执行、能访问哪些文件、哪些连接器已启用、输出会保存到哪里。

3. 非开发团队真正需要的工作体验

金融分析师:数据口径比生成图表更重要

金融分析师可能需要准备公司或市场研究、解释业绩变化、比较投资标的、分析组合敞口,最后形成投资委员会材料。Agent 可以收集公开信息、查询授权数据、执行计算并生成 Excel 或演示文稿,但找到一个数字并不等于完成分析。

每个关键数字都应保留来源系统、查询时间、指标定义、币种、单位、期间、过滤条件和计算逻辑。若数据来自 Snowflake Semantic View 或受治理 SQL,交付物应引用查询或数据集版本,而不是只附一段模型生成的解释。估值假设、风险判断和投资建议必须标明是用户输入、模型推断还是外部事实。正式交易、资金划转和投资组合变更不应由普通研究 Agent 直接执行。

研究员:从资料汇总转向可复查的研究过程

研究工作不止于搜索和摘要。研究员还要管理问题定义、检索范围、来源质量、论文版本、证据冲突、引用及结论之间的关系。Agent 应支持保存检索策略、来源快照、引用片段、研究笔记和报告版本。它可以提出新的检索方向、对比不同论文的方法和结果,但不能把摘要当成全文,也不能把预印本当作经过同行评审的最终论文。

研究工作台最好允许用户从一个结论反向追溯到支持它的原始段落,并把未解决的问题保留在报告中。多 Agent 可以分别负责检索、方法审查和反方论证,但最终证据账本应由统一的任务上下文维护,避免各个 Agent 引用不同版本的材料。

架构师:让设计决策与系统事实关联

架构师可以把需求、现有系统清单、数据流、ADR、技术债、接口契约和运行指标放到一个项目工作区。Agent 可以生成系统依赖分析、方案比较、风险登记和 ADR 草稿,也可以调用 CMDB、LeanIX、GitHub、Confluence 或云平台工具验证系统现状。

架构分析必须区分系统记录与模型推断。例如,CMDB 中登记的应用依赖关系是一项有来源的事实;根据仓库调用关系推断出的潜在依赖则应标记为待验证。架构师需要的是能帮助自己做判断的证据和反例,而不是一个自动替自己宣布架构结论的 Agent。

审核员:把检查标准变成可执行、可追溯的流程

审核任务应明确检查范围、适用规则、必需证据、例外条件、发现项、严重程度、复核意见和最终结论。Agent 可以执行资料完整性检查、规则匹配、异常筛查和报告草拟,但每项发现必须链接原始证据,并说明规则版本和判断过程。

审核员不应只看到“合规/不合规”两个标签。系统需要显示缺失材料、冲突证据、规则适用性和需要人工判断的事项。对于监管申报、正式审计意见、客户风险评级和例外批准,Agent 可以准备材料,但最终签署和责任归属仍应由授权人员完成。

4. 自主权设计:不要只有一个“自动执行”开关

把所有任务放进同一种权限模式,是 Agent Desktop 常见的设计错误。读取公开报告、修改本地草稿、向客户发送邮件和更新生产记录,影响范围完全不同。

自治程度应由具体动作的风险决定,而不是由用户对某个 Agent 的总体信任决定。

等级Agent 可以做什么典型任务控制方式
L0 建议只分析和提出建议方案比较、风险分析不产生外部副作用
L1 读取读取任务明确授权的数据并生成产物文档检索、数据分析通过用户委托或受限工作负载身份访问指定资源;不继承用户全部权限
L2 草拟修改工作区内的草稿报告、Excel、ADR 草稿版本控制、差异审查
L3 受控写入对指定系统执行有限写操作创建工单、更新草稿状态工具级策略、参数校验、必要时审批
L4 高影响操作产生不可逆或重大业务影响对外发送、正式发布、交易或申报明确授权、职责分离、双人复核或人工执行

审批界面不能只显示“Agent 想调用 update_record”。用户需要看到目标对象、变更前后差异、影响范围、数据依据、执行身份和撤销方式。批准结果必须绑定具体资源和参数;内容或目标在审批后发生变化,就应重新审批。

Agent Desktop 的风险分级与人工审批流程

4.1 审批疲劳与 Human-in-the-loop 的局限

审批记录只能证明有人点击了按钮,不能证明对方理解并检查了操作内容。Anthropic 关于 Claude Code 权限提示和 Cowork 隔离机制的讨论,已经说明逐项授权可能形成疲劳。学术研究也反复发现,人们可能过度依赖算法建议,尤其在时间压力、任务负担和界面锚定影响下。

2026 年发表在 Harvard Data Science Review 的《Bias in the Loop: How Humans Evaluate AI-Generated Suggestions》基于 2,784 名参与者,发现当纠正 AI 错误需要额外输入时,参与者更少纠错,也更容易接受错误建议;参与者原有的 AI 态度也是判断表现的重要预测因素。《Putting a human in the loop: Increasing uptake, but decreasing accuracy of automated decision-making》则通过实验指出,让人参与调整自动化建议可能提高接受程度,却不保证最终准确率提高。这些研究不是企业 Agent Desktop 的直接生产评估,但它们提醒我们:人工参与必须设计成真实的判断过程,而不是审批按钮。

审批界面应把需要判断的内容摆出来:关键证据、冲突数据、异常变化、未满足的规则,以及模型无法确定的部分。对于高风险判断,可以先让审核人独立给出初步结论,再展示 Agent 的建议,降低锚定效应。审批数量、审批耗时和批准率不能单独作为效率指标;还应测量抽检发现的错误、人工修改比例、撤销率和重大问题逃逸率。

5. 安全边界:非开发用户不应该被迫理解底层风险

5.1 Prompt Injection:外部内容不能成为执行指令

Agent 会读取邮件、网页、PDF、文档和工单。这些内容可能包含恶意或误导性指令。OpenAI 的 ChatGPT agent 安全说明和 Anthropic 的 Cowork 安全指南都明确提示,Prompt Injection 风险不会因为启用产品内置防护而消失。只要模型能够把外部内容当作指令,并且同时拥有文件、浏览器或连接器写权限,就可能发生跨系统数据泄露或非预期操作。

不能只靠 Prompt 写一句“忽略文档中的恶意指令”。工具输出、网页内容和文档内容都应视为不可信数据。真正的防线在执行层:文件系统隔离、连接器 allowlist、网络 egress 策略、工具级授权、敏感数据检测、写操作确认和输出目的地控制。尤其需要检查 Agent 是否能把一个有权限读取的数据源内容,通过另一个被允许访问的外部服务传出去。

5.2 用户权限、Agent 身份和工具权限必须分开

一次操作至少要能关联发起用户、Agent、运行任务、工具身份、目标资源、策略决策和审批记录。读取数据时优先继承用户授权(delegated access),后台任务则使用范围受限、可撤销的 workload identity。不要让所有 Agent 共用一个可以访问多个系统的超级账号。

MCP 只是工具集成协议,不是授权系统。每个连接器仍需明确数据范围、读写能力、凭证生命周期和责任人。工具描述与返回内容也属于不可信输入,需要经过版本审查和策略控制。

身份授权还需要覆盖完整生命周期。不要把 OAuth Refresh Token、API Key 或用户密码直接交给 Agent Runtime;凭证应由 Credential Broker 或平台密钥服务保管,Runtime 只获得短时、限定 Scope 的访问能力。用户委托令牌、Agent Workload Identity 和 Connector 的服务身份必须分别记录,不能因为任务由某个用户发起,就把用户的全部权限复制给后台 Agent。

后台任务应使用 Just-in-Time 授权,明确资源范围、动作、有效期和撤销条件。任务结束、取消、用户权限变化或风险状态变化时,应回收临时凭证;长任务在执行高影响动作前重新验证授权。子 Agent 只能获得父任务明确委托的能力,且委托范围只能缩小,不能在下游扩大。

5.3 企业安全策略:从策略定义到运行时强制执行

Agent Desktop 不能把安全策略实现成一组 UI 开关,也不能让模型根据自己的判断决定是否可以调用工具。企业需要一个独立于 Agent Runtime 的策略控制平面,负责策略制定、上下文收集、授权决策和执行约束。

Agent Desktop 的安全策略控制平面与运行时强制执行

策略职责可以按传统访问控制架构拆分:

组件职责典型输入
Policy Administration Point(PAP)管理员制定、审批、版本化和发布策略组织规则、风险等级、例外审批
Policy Information Point(PIP)提供授权判断所需的可信属性用户与设备身份、Task、数据标签、资源所有者、目的地信誉
Policy Decision Point(PDP)根据策略和上下文作出决策Principal、Task、Resource、Action、Data Label、Destination、Context
Policy Enforcement Point(PEP)在实际操作发生前强制执行决策文件服务、代码沙箱、Connector、Browser、Computer Use、网络代理
Policy Audit保存策略版本、决策理由、审批绑定和执行结果决策 ID、策略版本、动作摘要、结果

PDP 的决策不应只有 Allow / Deny。至少应支持 Allow、Deny、Require Approval、Require Step-up Authentication 和 Allow with Constraints。最后一种适用于“允许读取,但限制记录数量”“允许写入草稿,但禁止提交”“允许访问站点,但禁止上传文件”等场景。

授权判断可以抽象为:

Decision = f(Principal, Task, Resource, Action, DataLabel, Destination, Context)

其中 Principal 至少包含发起用户、Agent 身份和实际执行身份。Context 还应包含设备合规状态、网络位置、任务风险等级、策略版本和时间条件。没有匹配策略时默认拒绝;显式拒绝优先于普通授权;临时授权到期或被撤销后立即失效。高风险操作在策略服务不可用时应 fail closed,不能因为 PDP 超时就放行。

策略必须覆盖所有执行通道,而不是只部署在 MCP Gateway:File Access Service、Code Sandbox、Connector Gateway、Browser Runtime、Computer Use Runtime、Local Bridge、Agent-to-Agent Dispatcher 和 Artifact Export 都需要有 PEP。否则 Agent 可以从受控 API 切换到 Shell、浏览器或本机桥接,绕过原有授权判断。PEP 应验证决策绑定的资源和参数摘要,不能接受一个“允许调用 update_record”的宽泛结论,再让模型自由修改目标和参数。

审批也必须绑定具体动作。审批请求应包含目标资源、动作、参数摘要、数据来源、目的地、执行身份和有效期;审批后只要内容、对象或参数变化,就重新计算策略。用户确认不能覆盖组织级禁止规则,也不能把一次性批准扩展成长期权限。策略例外需要记录申请人、批准人、理由、范围、到期时间和复核责任人。

职责上,Business Owner 对业务用途和风险接受负责,Data Owner 定义数据分类和使用边界,Agent Owner 负责 Agent、Skill 和工作流的运行质量,Platform Owner 负责 Runtime 与策略执行能力,Security Owner 负责控制基线、例外审查和事件响应。小规模部署可以由同一团队承担多个角色,但高影响业务动作仍应保持职责分离。

关键原则是:模型提出动作,PDP 判断是否允许,PEP 确保实际只能执行被批准的动作。

5.4 沙箱解决的是执行隔离,不等于数据访问授权

部署前要先弄清几个边界:Agent 运行在哪台机器、以什么身份运行,如何访问本机文件,浏览器和桌面应用由谁控制,任务数据会发送到哪里。只说“运行在沙箱里”并不足够,因为沙箱解决执行隔离,不能代替数据授权。

Anthropic 当前的 Cowork 安全说明将任务描述为运行在 Anthropic 云端的临时隔离环境;需要本地文件或桌面应用时,再通过 Claude Desktop 建立受控访问路径。Anthropic 另有一篇工程研究,介绍早期 Cowork 本地 VM 的设计:VM 使用独立 Linux kernel、filesystem 和 process table,只挂载用户选定的工作区,凭证留在宿主机。这篇研究适合理解 VM 隔离思路,但不能据此推断当前 Cowork 的任务都在本机 VM 内执行。

OpenAI 的 Work 需要区分 Cloud Work、Local Work 和 Local computer access with Work Cloud。后一种模式由云端协调任务,本机执行需要访问设备资源的步骤;相关文件片段、Prompt、截图或应用上下文仍可能发送到 OpenAI 服务。OpenAI 明确说明该模式不提供严格的 Zero Data Retention(ZDR)。因此,“文件留在本机”不等于“任务数据只在本机处理”。

执行模式Agent 代码运行位置本机访问方式设计时必须检查
Cowork 当前云端任务Anthropic 云端临时隔离环境Desktop bridge 访问已连接文件夹和获批应用数据处理位置、桥接权限、云端留存
Cowork 早期本地 VM 设计本机 VM,独立 Guest OS选定工作区挂载到 VMHost/Guest 边界、挂载模式、凭证隔离;这是工程研究披露的设计阶段
ChatGPT Work CloudOpenAI 管理的云端执行环境上传文件、连接器和云端浏览器等授权路径云端执行策略、连接器身份、数据留存
ChatGPT Work Local / Work Cloud 协同本机执行部分步骤,云端协调任务桌面端、本机文件与应用权限OS 权限、应用批准、浏览器路径、云端上下文和审计覆盖

从企业架构角度,沙箱至少应区分三层:

本机 Agent 如果使用容器而非 VM,不能把容器边界当成对抗恶意 Guest Kernel 或高权限宿主机攻击的完整隔离。应以最小权限运行,去掉不必要的 capabilities,限制系统调用、设备、挂载和网络;对高敏感任务优先考虑独立 VM 或托管执行环境。Local MCP Server、浏览器扩展和桌面自动化进程也不应因为由 Agent 调用就自动被视为沙箱内可信组件,它们各自形成新的信任边界。

Agent Desktop 的云端执行、本机桥接与沙箱信任边界

查看执行边界图(HTML)

Desktop Host 本身也属于安全边界。客户端应采用代码签名和可信自动更新,隔离 UI Renderer 与具备本机权限的主进程,验证 IPC 调用来源和参数,避免插件或渲染页面直接访问密钥与文件系统。Local Bridge 应要求本机身份认证、来源校验和窄接口,不应暴露无认证的 localhost HTTP、任意命令执行或端口转发。设备合规、EDR 状态、磁盘加密和密钥存储应纳入企业设备管理基线。

5.5 本机文件访问:路径校验必须发生在真实文件对象上

把访问范围限制在用户选定的目录,只解决了授权问题的一部分。实现时还要处理符号链接、路径穿越、大小写和 Unicode 规范化、硬链接、挂载点、竞态条件及文件替换。只在字符串层面检查 startsWith(workspaceRoot) 并不安全:授权目录中的 symlink 可以指向目录外部,攻击者也可能在校验和打开文件之间替换路径目标。

建议将文件访问封装为独立的 File Access Service,而不是让 Agent Runtime 直接拼接本机路径。服务应执行以下流程:

  1. 用户显式选择工作区根目录,服务保存其稳定的目录句柄或文件身份,而不只保存字符串路径。
  2. 对请求路径做规范化,解析符号链接和真实目标,再检查目标是否仍处于授权根目录之内。必须先解析 symlink,再做最终路径授权判断;拒绝 .. 穿越、越界链接和不允许的挂载点。
  3. 授权检查应绑定实际打开的文件对象。支持的平台优先使用目录句柄相对打开、禁止跟随 symlink 的系统调用或等价机制,避免检查后文件被替换的 TOCTOU 问题。
  4. 依据数据分类、文件类型和任务策略,分别授予只读、读写、禁止删除等能力。写入使用临时文件、原子替换和版本备份;删除、覆盖和批量改名是不同的动作,不能被一个笼统的“写权限”涵盖。
  5. 对超大文件、隐藏文件、凭证文件、浏览器 Profile、SSH Key、云配置、系统目录和企业敏感目录设置默认拒绝或单独审批。拒绝规则应由管理员集中配置,普通用户不能通过 Prompt 覆盖。

Anthropic 的工程说明披露了 read-only、read-write 和 read-write-no-delete 等挂载模式,并特别指出 symlink 解析顺序对防止目录逃逸的重要性;企业还可以通过 MDM 限制允许挂载的路径。这里的文件句柄绑定、TOCTOU 防护、原子写入和敏感文件默认拒绝,是通用安全工程建议,不应误认为是所有商业产品都已公开实现的细节。

文件授权最好落到具体能力,而不是只给一个布尔值:

能力默认策略额外约束
List / Read工作区内允许敏感文件分类、最大文件大小、内容审计
Create工作区内允许创建新文件限制扩展名、路径和输出目录
Update默认生成新版本或草稿展示 Diff、原子替换、可恢复
Rename / Move单独控制检查源和目标路径,防止跨区移动
Delete默认禁止或逐次批准回收站/备份、批量删除二次确认
Execute不等同于文件读写权限单独沙箱、命令策略、网络隔离

本机文件访问的授权、路径解析和安全打开流程

查看文件访问控制图(HTML)

文件读取前还要考虑解析器本身的攻击面。PDF、Office、HTML、图片和压缩包都可能包含恶意结构、嵌入对象、宏、外部引用或触发解析器漏洞的内容。文件类型不能只依赖扩展名判断;应检查实际格式,将解析过程放入独立、低权限进程或沙箱,并限制文件大小、解压后体积、递归深度、CPU、内存和处理时间。宏和嵌入脚本默认不执行,外部链接默认不自动抓取。解析结果应作为不可信内容交给模型,不能因为文件已成功解析就提升其指令可信度。

5.6 Computer Use 必须与文件 API 分开授权

文件 API 的目录授权,不能覆盖屏幕读取、鼠标点击和键盘输入权限。Computer Use 可能通过一个已授权的应用打开文件夹白名单之外的文件,也可能在当前用户已登录的应用中执行操作。因此,文件系统 Allowlist 不能被当作 Computer Use 的完整边界。

macOS 上,Screen Recording 权限决定 Agent 能否读取屏幕内容,Accessibility 权限决定它能否点击、输入和导航;Windows 的交互模式和当前可见桌面会话又有不同约束。OpenAI 的 Work Local 文档还明确区分了内置浏览器、Chrome 扩展和通过 Computer Use 控制本机浏览器:Computer Use 使用已登录的浏览器会话时,不适用 Browser Use 的站点和能力策略,仍受原生应用策略、OS 权限和账户自身权限约束。Anthropic 也提醒,Computer Use 不受文件工具同样的沙箱保护,应用批准不代表操作风险已经消失。

因此,桌面自动化应作为独立能力面管理:

Computer Use 的操作权限与浏览器访问边界

查看 Computer Use 权限边界图(HTML)

5.7 网络出口:VPN 可达不等于 Agent 获得授权

Agent 的网络请求可能来自代码沙箱、云端或本机浏览器、原生桌面应用、Connector 和 Local MCP。这些流量未必经过同一个 Proxy,也未必受同一套浏览器策略约束。仅在容器中设置一个网络 Allowlist,无法覆盖本机浏览器已登录会话或原生应用发出的请求;企业 VPN 能够访问内网,也不代表 Agent 有权访问其中的每个服务。

建议以 deny-by-default 为基线,为每种执行路径单独定义目的地、协议、身份和数据范围。代码执行环境通过受控 egress proxy 出网;本机 Bridge 只暴露窄接口,不提供任意 HTTP、Shell 或端口转发;Connector 使用目标系统 OAuth scope 和资源级权限;浏览器策略单独限制站点、上传下载和调试协议。DNS 解析结果、重定向、IP 段和代理绕行也要纳入验证,不能只按域名字符串做 Allowlist。

对金融和审核任务,尤其要防止 Agent 将受保护数据从一个合法读取通道转移到另一个合法写入通道。网络层允许访问某个 SaaS,不代表允许把当前工作区中的客户数据上传给它。数据分类、目的地策略和动作策略必须共同判断。

Agent Desktop 不同执行路径的网络出口控制

查看网络出口控制图(HTML)

网络策略还应显式防止 SSRF 和内网探测。Browser Runtime、URL Fetcher、图片解析器和通用 HTTP 工具不能访问云元数据地址、localhost、链路本地地址、内部管理网段或未批准的私有服务。校验不能只发生在最初 URL:还要处理 DNS 解析、DNS rebinding、CNAME、重定向、IPv4/IPv6 表示差异和代理绕行,并在每次连接时验证最终目的地址。对需要访问内部系统的场景,应通过明确登记的 Connector 暴露业务能力,而不是给 Agent 一个能够访问整个企业网络的通用 HTTP 通道。

5.8 用数据外传场景检验纵深防御

需要重点测试的未必是沙箱逃逸,更常见的攻击路径可能是:Agent 读取了含有间接指令的外部 PDF,文档要求它把工作区中的客户资料发送到某个外部网站;Agent 本身没有突破文件权限,也没有逃出容器,只是把已获准读取的数据,通过另一个已获准使用的连接器写了出去。

这类问题说明,权限检查不能只问“这个工具是否允许使用”,还要判断当前任务能否把这类数据发往这个目标。建议对每个数据源和目的地维护数据分类、用途限制与允许流向;工具调用时由 Policy Enforcement Point 检查主体、动作、资源、数据标签、目的地和任务上下文。模型只能提出动作,不能自行改变策略或豁免规则。

高风险写入的审批应绑定目标资源、动作、完整参数摘要和数据来源。审批之后,只要目标、内容或参数发生变化,就重新计算策略并要求重新批准。日志记录策略决策、数据分类、目标系统和结果,但不要为了审计而把完整敏感文件内容复制进普通日志。

Prompt Injection 导致跨系统数据外传的威胁路径与防护点

查看数据外传威胁模型图(HTML)

数据授权需要从“能否读取”扩展到“能否处理、能否发送以及可以发送到哪里”。组织应维护统一的数据分类和用途策略,并将标签随文件、查询结果、Artifact 和导出物传递。至少要覆盖 Public、Internal、Confidential 和 Restricted 等级;具体分类名称沿用企业现有数据治理标准,不另造一套冲突标签。

对数据源和目的地分别执行授权:用户可以读取客户记录,不代表 Agent 可以把记录发送给外部模型、个人邮箱或未批准的 SaaS。数据流策略应考虑客户/项目边界、行列级权限、用途限制、数据驻留和跨境要求。外部模型调用前应根据数据分类执行最小化、脱敏、遮蔽或拒绝;模型供应商的区域、留存、训练使用、子处理方和合同承诺必须与数据分类匹配。模型故障时的自动 fallback 不能切换到数据处理条件更宽松或未经批准的供应商。

DLP 不应只扫描最终导出的文件。它还需要覆盖 Prompt、检索片段、工具参数、剪贴板、截图、浏览器上传、邮件附件和 Agent-to-Agent 消息。日志与证据也属于数据副本,必须适用相应的访问和留存规则。

5.9 Agent、Skills、MCP 与模型供应链安全

Agent Desktop 的供应链不仅包括传统软件依赖,还包括 Agent Definition、System Prompt、Skill、Plugin、MCP Server、工具 Schema、模型版本和外部服务。一个已获批准的工具也可能在升级后改变行为;工具描述被污染,或者服务端实现与声明的能力不一致,都可能把合法调用变成数据外传或越权操作。

企业至少应建立以下控制:

对象准入和运行控制
Agent / Workflow Definition版本管理、代码审查、发布审批、生产与测试环境隔离
Skills / Plugins只允许批准的 Registry 和发布者;检查内容、脚本、引用和依赖
MCP Server / Connector登记所有者、用途、数据范围、网络目的地和实际权限;禁止 Agent 任意发现并连接新 Server
Tool Schema / Definition固定版本和 Hash;检测工具描述、参数和权限声明变化
软件依赖与运行镜像漏洞扫描、SBOM、镜像签名、来源验证和可复现构建
模型与模型服务维护批准的模型、版本、区域、数据留存和训练使用条件;模型切换需重新评估

生产环境应固定经过审查的版本,升级前重新扫描和测试。对工具执行最小权限,工具声明的权限不能高于实际业务需要;运行时监控版本漂移、异常网络目的地和行为变化。发现问题后应能单独禁用某个 Skill、MCP Server、模型版本或 Connector,而不必关闭整个 Agent Desktop。

模型供应商也属于供应链。采购和接入时应核对数据处理协议、数据区域、留存期限、是否用于训练、子处理方、密钥管理、可用性承诺和安全事件通知机制。不能只根据模型名称或 API 兼容性决定是否允许发送企业数据。

OWASP 将 Agentic Supply Chain Vulnerabilities 列为 ASI04;MITRE ATLAS 也记录了 AI Agent Tool Poisoning 和 AI Agent Tool Data Poisoning。相关威胁框架见OWASP Top 10 for Agentic Applications 2026和 MITRE ATLAS。

5.10 Memory、RAG 与跨任务上下文污染

Memory 和 RAG 会把一次任务中的内容带入后续任务,因此它们是持久化的信任边界。攻击者可能把恶意指令、伪造事实或错误权限信息写入知识库、项目记忆或 Agent 长期记忆,等到另一个任务检索时再影响模型决策。原始任务结束,不代表其中的内容已经失去影响力。

Memory 写入必须记录来源、写入主体、时间、所属用户/组织/项目、安全标签和有效期。外部文档、邮件和网页中的内容可以作为事实材料保存,但不能直接升级为系统指令、策略或可信身份声明。高影响记忆应有审核、版本和删除机制;检索结果应保留来源引用,并允许用户查看和纠正。

RAG 的访问控制应尽量在检索前执行,而不是先从全局索引取回敏感内容,再让模型判断是否应该展示。索引需要按租户、用户、项目和数据权限过滤;向量索引的 ACL、元数据过滤和原始文档权限必须保持一致。跨 Task 检索时重新检查当前授权,不能继承写入时的权限,也不能因为 Agent 曾经读取过某份资料就永久保留访问权。

需要定期清理过期记忆、撤销已失效来源、处理用户删除请求,并测试检索污染、权限过滤绕过和跨客户信息泄露。OWASP 将 Memory & Context Poisoning 列为 ASI06;MITRE ATLAS 也包含 AI Agent Context Poisoning。

5.11 Multi-Agent 委托与通信安全

多 Agent 不是内部函数调用的简单扩展。每个 Agent 都可能有独立的模型、工具、记忆和执行身份,任务交接会引入新的信任关系。父 Agent 不能只把自然语言任务描述发给子 Agent,就默认子 Agent 可以访问父任务的全部上下文和资源。

委托请求应包含经过认证的调用方身份、Task ID、子任务目标、允许访问的资源、允许执行的动作、数据分类、有效期、预算和预期输出。权限只能逐级缩小;子 Agent 不得自行扩大委托范围,也不能把凭证作为普通消息传递。Agent 间通信应验证发送方身份、消息完整性、关联任务和时效,防止伪造、重放和跨任务串用。

子 Agent 的输出仍然是不可信结果:需要检查来源、证据、结构和副作用,不能因为它来自组织内部就跳过验证。对高影响写操作,应由统一的 Policy Engine 决策,并由明确的执行身份完成;不能让多个 Agent 通过转交任务规避审批。还要限制递归委托层数、并发数和总预算,避免失控扩散。

OWASP 将 Insecure Inter-Agent Communication 列为 ASI07。

5.12 持续监控、审计与安全事件响应

审计日志用于调查和问责,不能替代执行前的授权与阻断。应分别记录用户身份、Agent / workload identity、Task ID、模型和策略版本、文件操作元数据、工具调用、审批、网络目的地和下游结果,并关联设备 EDR、身份平台、代理和目标业务系统日志。OpenTelemetry 适合承载运行指标和调用轨迹;合规日志需要按组织的访问、留存和法律保全要求管理。对敏感内容采用受控的内容审计或证据快照,不要默认把完整 Prompt、文件内容和屏幕截图无限期写入通用日志。

安全监控不能只看异常登录。还应关注工具调用频率和目的地偏移、权限提升、敏感数据读取量、跨客户访问、异常导出、重复写入、子 Agent 数量、预算消耗、策略拒绝率和取消后仍继续执行等信号。检测规则应关联 Task、Agent、用户、设备和策略版本,使安全团队能够还原完整操作链。

安全事件需要有可执行的处置流程:

  1. Detect:识别异常工具调用、数据外传、身份滥用、工具版本漂移和异常 Agent 行为。
  2. Contain:暂停相关 Task,终止 Runtime,隔离执行环境或阻断网络出口;保留必要证据。
  3. Revoke:撤销用户委托令牌、Agent 凭证、Connector Token 和临时授权。
  4. Quarantine:禁用可疑 Skill、MCP Server、模型版本或 Connector,并阻止新任务使用。
  5. Investigate:关联 Task Trace、策略决策、审批记录、工具版本、数据来源和下游系统日志。
  6. Recover:恢复或回滚受影响文件和业务记录,验证凭证轮换和系统完整性。
  7. Notify and Improve:按组织制度通知 Security、业务和数据负责人,更新策略、检测规则、红队用例并复测。

控制平面必须支持独立的 Kill Switch 和 Revoke 能力,能够按 Task、Agent、用户、设备、Connector 或工具版本停止执行。不能依赖模型自己决定停止,也不能要求管理员为了隔离一个恶意 MCP Server 而关闭整个桌面平台。

数据留存和事件响应要一起设计。对云端任务、本机执行记录、Prompt 和文件片段、截图、生成文件、连接器缓存、浏览器 Profile、合规日志分别制定留存、删除和法律保全策略。结束任务不代表所有副本都已删除;如果组织要求数据绝不离开终端,必须验证实际数据流和供应商处理条件。

事件演练至少应覆盖:恶意 Skill 发布、MCP Server 被替换、跨连接器数据外传、RAG 污染、Agent 凭证泄露、子 Agent 失控、策略服务不可用、任务取消失败和大规模重复写入。每个场景都要验证能否检测、阻断、撤权、定位责任主体和恢复业务状态。

5.13 执行配置:把文件、代码、网络和桌面操作拆成独立能力

“只读代码”“运行测试”和“操作本机浏览器”经常被放在同一个 Agent 权限开关下,这是一个危险的抽象。读取源码不会自动带来执行权限;但一旦允许运行测试,测试脚本、构建插件、依赖安装脚本和仓库中的辅助程序都可能执行任意代码。反过来,限制文件写入也不代表命令行不能通过网络发送读取到的资料。权限模型必须描述 Agent 能做什么,而不是只描述它打开了哪个项目。

建议把能力拆成至少六个独立维度:文件读取、文件写入、代码执行、网络访问、结构化业务工具、桌面与浏览器控制。每个任务先匹配一个最小权限执行配置(Execution Profile),只有任务确实需要时才逐项提升能力。一个配置不能因为启用了某个工具就隐式获得其他能力。

执行配置文件范围代码 / Shell网络浏览器与桌面适用任务
Document Reader指定资料只读禁止默认禁止;检索走受控服务禁止阅读合同、报告、论文
Code Reviewer仓库只读,敏感文件拒绝静态分析优先;命令需受限文档站点白名单或关闭禁止代码审查、架构分析
Code Runner临时工作区可写,源仓库只读允许受限测试 / 构建默认关闭,按需开放禁止单元测试、数据转换、可复现分析
Code Developer指定仓库可写沙箱内执行依赖源和文档站点白名单禁止,除非单独授权实现功能、修复缺陷
Browser Researcher下载目录隔离写入禁止任意 Shell受控浏览器站点策略浏览器专用会话网页研究、资料收集
Desktop Operator显式授权的文件与应用不自动授予 Shell仅经批准的应用 / 连接器指定应用、指定会话Excel、PowerPoint 等桌面操作
Business Operator业务数据按用户权限读取禁止任意 Shell仅批准的 Connector优先使用结构化 API工单、CRM、审批流程

这张表是建议的企业策略模型,不是 Claude 或 OpenAI 的现成功能清单。实际产品能力需要映射到这些维度,并验证每个权限是否真正由执行环境强制实施。尤其要避免“读代码”被解释成“可以运行仓库代码”,也要避免“可以操作浏览器”被解释成“可以访问当前用户所有已登录应用”。

Claude 的边界需要按产品区分。 Claude Code 在用户本机运行,Plan 模式适合只读分析;文件编辑权限、Shell 权限和网络权限应分别配置。其文件访问规则并不能自动约束 Shell 命令、MCP Server 或 Hook 程序,因此只设置目录读写限制并不足以构成完整沙箱。需要执行代码时,还要依赖操作系统级沙箱和命令执行策略。Cowork 则主要把任务放在云端隔离环境中,通过 Desktop Bridge 访问用户明确连接的本地文件;这和 Claude Code 在本机仓库中执行代码不是同一种运行模型。Cowork 的 Computer Use 又是独立权限面,不能把文件夹授权当成桌面操作的边界。

OpenAI 的边界也不是一个统一的 Desktop 权限。 ChatGPT Work 可以在云端和本机之间协调任务;本机步骤仍受桌面端授权和本机策略控制,而任务上下文、文件片段、截图或工具结果可能进入云端处理。Codex 的关键设计是把 Sandbox 与 Approval Policy 分开:Sandbox 决定文件系统和网络在技术上能到哪里,Approval Policy 决定哪些动作需要用户批准。只读模式、工作区写入模式和更宽权限模式的差异,应通过执行环境强制,而不是只靠模型遵守指令。Work 的 Computer Use、桌面内置浏览器、Chrome 扩展和云端 Browser Use 也属于不同访问路径,不能假定一套站点策略覆盖所有路径。

因此,企业自建 Agent Desktop 应把“授权”和“执行限制”作为两道独立控制。策略引擎先决定某个 Task 可获得哪些能力;运行时再通过 OS 沙箱、容器或 VM、文件代理、网络代理和应用授权实际限制能力。审批只负责例外和风险提升,不能替代沙箱。批准一次测试命令,也不应自动批准后续联网、读取凭证或写入其他目录。

几个实现细节容易被忽略:

执行配置应随 Task 一起保存,作为任务记录的一部分。这样用户和审计人员能够回答:这次任务为什么能读取某个目录、为什么可以运行测试、是否能够访问网络、是否操作过登录浏览器,以及这些权限由谁批准。权限模型最终要能被测试:用恶意测试仓库、越界 symlink、依赖安装脚本、恶意网页和数据外传用例验证实际边界,而不是只检查设置界面上显示了哪些开关。

Agent Desktop 的任务执行配置与能力授权边界

查看执行配置与能力边界图(HTML)

5.14 自建 Agent Desktop:不要从 Computer Use 开始

如果不是直接采用 Claude 或 OpenAI 的完整产品,而是自己构建面向企业知识工作者的 Agent Desktop,没必要一开始就实现 Computer Use 和 Browser Use。把商业产品的功能清单当成自建系统的必选项,会显著扩大工程范围,也会把最难治理的权限面提前引入。

实现顺序应由业务接口覆盖率决定:先接入 API 和 Connector;遇到没有可用接口的 Web 系统,再增加 Browser Use;只有遗留桌面应用确实无法通过其他方式操作时,才建设 Computer Use。 后两者不是基础设施清单上的必选项,都会增加需要单独维护和治理的执行边界。

执行方式典型实现适用场景主要成本与风险建议优先级
API / MCP / ConnectorREST、GraphQL、业务 SDK、MCP Server查询数据库、读取知识库、创建工单、更新业务记录身份映射、资源级授权、参数校验、审计第一优先
Browser UseChromium + Playwright,优先 DOM 和 Accessibility Tree没有可用 API 的 Web 应用、需要跨页面操作的流程登录态管理、页面变化、下载上传、站点策略、反自动化机制第二阶段
Computer Use截图、视觉定位、鼠标键盘、窗口控制只能通过 GUI 使用的传统桌面应用或特殊插件视觉误判、焦点和窗口状态、误操作、桌面数据暴露最后考虑

API/MCP 并不意味着把所有系统都包装成一个万能工具。每个 Connector 仍应有明确的身份、资源范围和动作语义。例如,查询 Snowflake、读取 Confluence 页面和创建 Jira 工单应是不同的工具能力,分别定义只读或写入权限、允许的资源范围和审计字段。MCP 只是工具交互协议,不是授权边界;真正的授权仍由 Connector Gateway 和目标系统共同执行。

Browser Use 的主要价值是补齐没有结构化接口的 Web 系统,而不是取代 API。自建时通常不需要开发浏览器内核或视觉模型,可以使用受控 Chromium 实例和 Playwright。优先通过 DOM、Role、Label 和 Accessibility Tree 定位页面元素;只有页面确实无法提供可访问结构时,才考虑截图和视觉定位。浏览器应使用专用 Profile,独立管理 Cookie、下载目录、站点 Allowlist、上传能力和会话生命周期,不要默认复用用户日常浏览器的完整登录态。对金融或客户数据场景,浏览器会话本身应视为一组高权限凭证。

Computer Use 则是另一种能力。它需要理解屏幕状态、选择窗口、定位控件并执行鼠标键盘动作。只有当目标应用没有可用 API、没有可行的浏览器自动化路径,而且 GUI 操作确实能带来业务价值时,才值得建设这条执行通道。典型例子是某些传统 Windows 金融终端、只能通过桌面插件访问的应用,或缺乏自动化接口的遗留系统。它不应成为普通文档阅读、代码分析或网页研究的默认执行方式。

自建系统可以把三种能力放进同一套 Task Runtime,但不应放进同一个权限开关。一个简化的运行结构是:

关键在于,Agent 只提出工具调用请求,Runtime 才能真正访问外部系统。Policy Engine 对动作做出决定后,执行环境还要强制实施文件、网络、应用和身份边界。不要让模型通过任意 Shell、通用 HTTP 或端口转发绕开 Connector、Browser 或 Computer Use 的策略。

实施上建议分三步:

第一阶段:File、Code 和 Connector Runtime。 先支持本地或云端 Workspace、文档解析、文件读取、产物生成、受限代码执行,以及少量高价值业务 Connector。代码执行应在独立沙箱中进行,区分只读分析、工作区写入和测试构建;默认不允许任意网络访问。大多数研究、分析、架构和审核任务,在这一阶段就能覆盖。

第二阶段:Browser Runtime。 只有当目标 Web 系统没有稳定 API,且人工操作确实构成主要瓶颈时才引入。使用 Playwright 和专用浏览器 Profile,优先 DOM / Accessibility 自动化;把站点范围、登录身份、文件上传下载和页面数据外传纳入 Policy Engine。浏览器会话应可创建、暂停、终止和审计,不能把用户个人浏览器当成无边界的自动化环境。

第三阶段:Computer Use Runtime。 通过独立进程或隔离桌面会话承载截图、鼠标键盘和窗口控制。先限定应用和会话,再定义动作权限;高影响操作要求用户确认。不要把 Computer Use 作为 Browser Use 失败后的自动 fallback,也不要让它继承 Browser Runtime 或本机用户的全部权限。

任务执行方式可以按以下规则选择:

用户任务首选执行方式不应默认做的事
查询数据库或知识库API / MCP / Connector打开浏览器登录后台查询
阅读本地 PDF 或 Office 文件File Runtime启动桌面 GUI 逐页截图
分析代码或审查 Pull RequestRead-only Workspace + 静态分析直接在开发者宿主机运行未知代码
运行测试或数据转换Code Sandbox自动开放整个文件系统和互联网
查询没有 API 的网站Browser Runtime直接接管用户当前浏览器
操作 Excel 等桌面应用Office API / Add-in;确有必要时 Computer Use一开始就实现通用鼠标键盘 Agent
操作传统桌面遗留系统Computer Use,限定应用和会话将桌面会话暴露成任意远程控制能力

需要特别定义失败处理。Connector 不可用时,应明确提示接口不可用或转交人工;Browser Runtime 遇到页面变化、登录过期或元素无法定位时,应停止并请求恢复会话或人工接管;Computer Use 遇到焦点不明、窗口变化或动作结果无法确认时,应暂停,不应继续猜测。执行方式可以降级,但权限不能自动升级。 Browser Use 失败不能悄悄切换到 Computer Use,更不能借机获得用户桌面的完整访问权;切换执行通道必须重新经过策略判断和必要的用户审批。

底层能力没有必要全部自研。浏览器内核可以使用 Chromium,页面自动化可以使用 Playwright,代码执行交给容器或 OS 沙箱;除非有明确的业务需求,否则也不必从头训练视觉模型或实现通用鼠标键盘控制。自研部分应集中在任务状态、身份与权限映射、执行隔离、失败恢复、审批和证据链上。

对大多数企业知识工作场景,先把 File / Code / Connector Runtime 做扎实,再根据真实任务缺口决定是否增加 Browser Use。Computer Use 应作为少数遗留应用的专用能力,而不是 Agent Desktop 的产品起点。

5.15 Agent Desktop 的信任边界:可信主机、不可信输入与受控执行

讨论 Agent Desktop 安全时,经常会出现一个过度简化的判断:既然 Agent 能操作桌面,那么整个桌面都应该被视为不可信;或者反过来,Browser Use、Computer Use 和本地文件操作都在同一台机器上运行,因此它们的风险差不多。这两种理解都不准确。

是否运行在同一台机器,不决定它们是否处于同一个安全边界。 安全边界取决于进程身份、操作系统权限、可访问资源、凭证范围、执行通道以及策略能否被强制执行。一个隔离的 Chromium 实例即使运行在用户电脑上,也可以只访问专用 Profile 和有限站点;一个与用户同身份运行的桌面 Agent,即使没有 Computer Use,也可能通过本地文件 API、Shell、MCP Server 或浏览器扩展接触大量用户资源。反过来,Computer Use 如果运行在独立桌面会话、专用账号和受限应用集合中,也可以被约束,只是它通常拥有更宽的可观察和可操作范围,因而需要更严格的控制。

因此,不应该把“整台桌面”笼统定义为不可信。需要分别判断三个维度:

维度要回答的问题建议的默认判断
执行环境(Host / Runtime Trust)操作系统、Agent Runtime、文件代理、浏览器实例和 Connector 是否由组织管理,是否经过加固和验证?受管理的 Host 和 Runtime 可以作为可信基础设施;不受控的插件、扩展、脚本和子进程不能自动继承这种信任
数据与指令来源(Content Trust)文件、邮件、网页、PDF、工具返回值和剪贴板内容来自哪里,是否可能包含恶意指令或伪造信息?外部来源默认不可信;本地文件也不能仅因位于本机就被视为可信
动作授权(Action Authorization)当前 Task 是否有权对特定资源执行读取、修改、发送、删除或提交?每个动作按主体、任务、资源、数据分类和目的地单独授权,不能从“用户本人有权限”推导出“Agent 当前任务有权限”

这三个维度不能互相替代。可信的桌面应用可以显示不可信网页;不可信 PDF 可以被可信的文档解析器安全读取;可信的 Agent Runtime 也可能因为拿到了过宽的用户权限而执行未经授权的动作。信任应附着在具体主体、数据和动作上,而不是附着在“桌面端”这个产品名称上。

同一台机器,不代表相同风险

Browser Use 和 Computer Use 的差异不在于一个运行在机器里、另一个运行在机器外,而在于它们能触达的资源和执行语义不同。

受控 Browser Runtime 通常可以把操作限制在浏览器进程、专用用户 Profile、指定站点和浏览器下载目录内,并通过 DOM 或 Accessibility Tree 操作页面。它仍然面临网页 Prompt Injection、恶意下载、登录态滥用、跨站数据泄露和上传外传风险,但可以利用浏览器进程隔离、站点权限、Cookie 分区、下载目录和网络代理等控制措施。若直接复用用户日常浏览器 Profile、调试端口或全部登录态,这些边界就会明显弱化。

Computer Use 通过屏幕、键盘和鼠标与桌面交互,可能跨越浏览器、Office、邮件客户端、文件管理器和其他原生应用。它看到的内容可能包括通知、客户资料和其他窗口;它能执行的动作也可能包括复制、粘贴、上传、发送和提交。它未必拥有比用户更高的 OS 权限,却可能把用户已有的广泛权限转化为 Agent 可调用的能力。其风险通常更高,是因为可见范围和可操作范围更广、状态更难准确判断、动作结果更难验证,而不是因为“本机执行”本身天然不安全。

同样,本地 File Runtime 也不天然安全。如果 Agent 进程直接以当前用户身份运行,且能读取整个 Home Directory,那么即使完全没有 Browser Use 和 Computer Use,也可能读取 SSH Key、云凭证、浏览器数据库、下载文件和同步盘内容。只读权限也可能造成数据泄露;没有写权限不等于没有风险。

需要重点防止 Ambient Authority

桌面 Agent 最容易被低估的风险之一,是 Ambient Authority(环境中隐式存在的权限)。用户登录电脑后,操作系统、浏览器和桌面应用已经持有大量用户权限:访问个人文件、连接企业 VPN、读取同步目录、使用已登录的 SaaS 会话、调用本地开发工具等。如果 Agent 直接以同一个 OS 用户身份运行,这些权限可能在没有明确任务授权的情况下被间接继承。

这会形成典型的 Confused Deputy(混淆代理)问题:用户只要求 Agent 总结一份文档,但文档中包含恶意指令;Agent 为完成任务而调用了一个合法工具,最终利用用户已有的登录态,把其他文件或敏感数据发送到外部站点。Agent 并没有破解身份系统,工具也可能没有越权;问题在于系统把“用户能够做”错误地等同于“这个 Agent、这项任务、这个目的地可以做”。

解决方式不是把整个桌面都标记为不可信,而是避免 Agent 自动继承用户的全部环境权限:

将信任模型落实到架构

现有的 Execution Profile 不应只是 UI 中的一组权限开关,而应成为 Policy Engine 和各 Runtime 共同执行的策略契约。Agent Runtime 负责提出动作,不直接持有宿主机和下游系统的广泛权限;Policy Engine 根据任务和资源作出决定;各 Runtime 通过操作系统沙箱、专用身份、文件代理、浏览器隔离、Connector scope 和网络代理落实限制。

组件信任职责不应承担的职责
Desktop Host提供受管理的 OS、设备身份、密钥存储和安全更新不应把当前用户的全部权限直接交给 Agent
Agent Runtime维护 Task 上下文、生成计划、提出工具调用不应自行判定授权,也不应持有长期高权限凭证
Policy & Approval Engine评估主体、任务、资源、动作、数据标签和目的地;处理审批与撤权不应只根据模型生成的理由放行
File / Code Runtime提供限定工作区、敏感路径拒绝、代码沙箱和执行限制不应默认挂载整个用户目录或继承宿主机网络
Browser Runtime使用独立 Profile、站点策略、下载目录和网络出口不应默认接管用户日常浏览器和全部登录态
Computer Use Runtime在隔离会话中访问明确批准的应用和桌面动作不应成为绕过 API、文件和浏览器策略的通用后门
Connector Runtime以受限身份访问具体业务资源,执行资源级授权和审计不应提供可绕过策略的通用超级账号或任意 HTTP 通道

这里有一个重要的工程原则:策略决定“允许什么”,Runtime 保证“实际只能做什么”。 如果 Policy Engine 允许 Agent 读取某个目录,但 Agent 进程仍能通过 Shell 读取目录之外的文件,那么策略只是界面承诺;如果审批通过后,执行环境没有限制目标资源和参数,审批也只是记录。安全测试必须验证真实进程、文件句柄、网络流量、浏览器 Profile 和应用会话的边界。

对于大多数 Agent Desktop,合理的默认设计是:受管理的 Desktop Host 可以是可信基础设施;外部内容和工具返回值默认按不可信输入处理;本地应用和 Connector 可以被信任为执行组件,但它们暴露给 Agent 的每项能力仍须独立授权。优先使用结构化 API 和受控 Runtime;Browser Use 与 Computer Use 是按需启用的执行能力,不是产品必须具备的基础组件。

这也修正了前文的一个容易产生误解的地方:不实现 Browser Use 或 Computer Use,不会因此形成更大的安全风险。通常恰恰相反,少开放一条执行通道,就少一类需要治理的攻击面。真正的安全目标不是让 Agent 能控制整台桌面,再试图用提示词约束它;而是让 Agent 在每个 Task 中只获得完成工作所需的最小能力,并且这些能力由执行环境强制限制。

6. 多 Agent、Skills 与 Workflow

研究、审核和架构工作有时需要并行处理。例如,研究任务可以分别安排来源检索、方法核查和反方论证。但拆分任务并不免费:子 Agent 之间需要传递上下文,结果还要合并和核验,成本、延迟及错误归因都会随之增加。因此,只有任务本身可以清楚拆分、且并行结果确实有价值时,才值得引入多 Agent。

相比 Agent 数量,以下三类资产通常更值得优先沉淀:

Agent 处理目标理解和不确定性,Workflow 管理确定的状态迁移,业务系统保存正式记录。审批状态应由 Workflow 或业务系统维护,不能交给模型在对话中自行更新。子 Agent 也不应自动继承父 Agent 的全部凭证;任务交接时只传递完成子任务所需的上下文、权限和预期产物。

7. 评估工作质量与执行效果

使用人数、任务数量和节省时间只能说明系统被使用了,不能证明工作质量有所提高。Agent Desktop 应按具体工作类型建立评估集,保留真实任务中的输入材料、预期证据、可接受输出和失败案例。安全评估也应作为持续回归的一部分,而不是上线前的一次性红队活动;策略、模型、Skill、MCP Server、Runtime 或数据分类发生变化时,都应重新运行相关用例。

评估维度建议指标不能用什么替代
事实质量关键事实正确率、引用支持率、数据口径错误率文本流畅度
任务完成端到端完成率、返工率、人工接管率Agent 自报完成
审核质量错误发现率、重大问题逃逸率、复核修改率审批通过率
执行安全越权调用、敏感数据外传、未授权写入仅统计被拦截次数
运营效率完成周期、人工净投入、单位任务成本单次模型响应速度
可恢复性任务恢复成功率、重复副作用、取消生效率只看服务可用性

测试对象应是完整任务,而不是孤立的模型回答。以金融分析为例,系统需要正确读取数据、解释指标口径、生成工作簿、保留计算过程,并让分析师完成复核;任何关键环节出错,都应计入任务失败。浏览器和桌面自动化还要覆盖页面改版、登录过期、网络中断、重复点击及部分成功等故障。

上线前应针对间接 Prompt Injection、跨连接器绕过权限、任务中途扩大操作范围、恶意 Skill、RAG 污染、Agent 委托和 SSRF 等情况进行红队测试。还要验证策略撤销、模型切换、工具版本变化和设备失去合规状态后的行为;检查取消任务后下游动作是否停止、审批参数变化后是否重新审批,以及重试机制是否可能重复创建工单或发送邮件。安全指标应包括越权成功率、敏感数据外传成功率、策略撤销延迟、未授权写入、异常工具调用检测率、事件遏制时间和恢复成功率。

8. 分阶段落地

第一阶段选择一个范围明确的团队和任务,例如研究资料整理、架构评审准备或审核证据收集。先提供只读能力,接入少量企业数据源,建立 Task、Workspace、Artifact 和 Evidence 等基本对象,并为结果保留来源和版本。上线前必须验证租户和项目隔离、数据分类、文件读取范围、模型数据处理条件、身份映射和审计关联;策略服务不可用时,高风险动作必须默认拒绝。

第二阶段开放草稿写入和少量可恢复的业务操作。明确区分 Read、Draft 和 Submit:先在工作区生成待审查成果,再考虑创建工单、更新草稿状态等动作。审批必须绑定资源和参数,权限可以撤销,任务取消能够传播到下游,重复请求不会造成重复副作用。供应链准入、Memory/RAG 权限过滤和安全事件处置流程也应在扩大写权限前完成。

跨应用自动化、定时任务和多 Agent 放到第三阶段。只有单 Agent 流程已经具备稳定的质量评估、失败恢复机制和成本数据,才有依据增加并行执行或后台运行。Browser Use 和 Computer Use 分别通过站点、应用和会话级专项测试后再启用。对资金、正式发布、合同生效和监管申报等高影响动作,始终保留业务系统既有的授权和职责分离机制。

每个阶段都应有明确的 Go / No-Go 条件:关键越权测试通过;数据外传路径有可验证的阻断;身份和策略撤销在可接受时间内生效;审计链能够还原一次任务;取消、超时和重试不会遗留未受控副作用;事件响应演练能够完成隔离与恢复。没有达到这些条件时,应限制能力范围,而不是靠增加用户提示或培训弥补执行层缺陷。

结论

Agent Desktop 的价值不取决于接入了多少模型、MCP Server 或子 Agent,而取决于它能否把一项工作从任务委托推进到资料核验、成果生成和业务交接。

Claude Cowork 展示了隔离执行、文件工作区和可复用能力的组合;OpenAI 的 Agent、Deep Research 和 Work 则把研究、浏览器操作、企业连接器和桌面工作放进同一产品体系。产品形态不同,但企业落地时都绕不开身份、数据访问、执行权限、审批、证据和责任归属。

实际应用不必从自动决策开始。先让 Agent 把决策前的工作做好:找齐资料、核对数据、形成初稿、标记不确定项,并保留可复查的依据。准确性、可追溯性和失败后的可恢复性,才是判断它能否进入生产环境的标准。

研究资料与延伸阅读

产品与工程实践

安全框架与标准

学术研究

这些研究提供的是人机协作和委托边界的证据,不应被直接解读为某个 Agent Desktop 产品的生产成功率。产品能力、学术实验和企业生产结果需要分别评价。