AI 原生系列 · 智能体 AI 中的人类动力学，第 2 篇（共 4 篇）
缓慢演变的最佳实践：今天该如何与智能体共事
一分钟摘要
这是什么。 本系列第 2 篇：六条与智能体共事的实践准则，每一条都对应第 1 篇中的某条原则及其证据来源，从 Anthropic、OpenAI 到 NIST、欧盟《AI 法案》与实地实验。
为什么重要。 同一个 AI 工具，在某项任务上让咨询顾问的产出质量提升了超过 40%，却在刚好超出其能力边界的任务上，让他们的正确率降低了 19 个百分点。认清自己站在边界的哪一侧——这正是这篇最值得记住的实践。
读完之后你能做什么。 列出你的智能体能执行的每一个动作，标记哪些可逆、哪些不可逆，再数一数有多少不可逆的动作是在没有人先过目的情况下运行的。如果这个数字不是零，那就是本周要修的问题。
标签怎么看： EVIDENCE 代表有据可查，DESIGN 代表这项实践是如何设计出来的，OPEN 代表尚未经过验证，而 LENS 代表我自己的判断。
你正让智能体与人并肩工作。六条实践，来自各大实验室、监管机构与田野实验，把第 1 篇里的原则变成了这个季度能照做的规则。最意外的一条是：AI 的能力边界参差不齐，同一个工具能让顾问在这项任务上好 40%，换到下一项任务却更糟。先从简单做起，给不可逆的动作加上闸门，搞清楚自己站在边界的哪一侧。
本篇内容：与 AI 智能体共事的最佳实践
第 1 篇讲了六条几乎不变的原则。这一层会变，但变得慢：这些实践是经过多年部署才沉淀下来的，大概还能再稳一阵子。它是写给那些要制定上线计划的人看的——该做什么、按什么顺序做，以及每一步背后的证据到底说了什么。
先下注再说
在一次 2023 年的实地实验中，某顶级战略咨询公司的 758 名顾问，在有无 GPT-4 辅助两种条件下分别完成真实任务。在一项刻意选定、刚好超出AI 擅长范围的任务上，使用 AI 的顾问表现是：
- A.准确率与不用 AI 的人差不多。
- B.准确率略高一些。
- C.准确率低得多。
实践一：从能用的最简方案开始
EVIDENCE Anthropic 关于智能体的指引提到："we recommend finding the simplest solution possible, and only increasing complexity when needed,"（中译：我们建议先找到尽可能简单的方案，只有在必要时才增加复杂度）因为"agentic systems often trade latency and cost for better task performance"（中译：智能体化系统往往是用延迟和成本换取更好的任务表现） (Anthropic，Building effective agents, 2024）。几个月后发布的 OpenAI 指南，用自己的说法表达了同样的意思："Our general recommendation is to maximize a single agent's capabilities first"（中译：我们的总体建议是先把单个智能体的能力发挥到极致） (OpenAI，A practical guide to building agents, 2025).
LENS 两个竞争对手给出同样的建议时，通常是因为他们都见过另一条路走不通。配备好工具的单一智能体更容易核查——这正是把第 1 篇的原则二落实成一种架构。
实践二：给不可逆的操作设闸门
EVIDENCE 同一份 OpenAI 指南也指明了人该介入的时机："Actions that are sensitive, irreversible, or have high stakes should trigger human oversight until confidence in the agent's reliability grows,"（中译：敏感、不可逆或高风险的行动，应当触发人类监督，直到人们对智能体可靠性的信心逐渐建立起来） 举的例子是 "canceling user orders, authorizing large refunds, or making payments."（中译：取消用户订单、批准大额退款，或执行付款。） Anthropic 把这类智能体描述为会 "pause for human feedback at checkpoints or when encountering blockers."（中译：在检查点或遇到阻碍时暂停，等待人类反馈。）
DESIGN 由此得出的规则很简单：把智能体能做的每一个动作分成可逆与不可逆两类。可逆的，放手让它跑。不可逆的，让一个真正有时间思考的人把关。之后，闸门只能随着智能体靠证据赢得信任才逐步放松，而不是靠大家的热情。「目前为止都还好」——这是每个人的口头禅，一直念到那笔退不回来的退款为止。
实践三：讲清楚它能做什么，拿不准时就收窄范围
EVIDENCE Microsoft 的研究团队提出了 "18 generally applicable design guidelines for human-AI interaction,"（中译：18 条普遍适用的人机交互设计准则） 并由 49 位设计从业者针对 20 款 AI 产品逐一核验。第一条是 "Make clear what the system can do."（中译：讲清楚这个系统能做什么。） 第十条是 "Scope services when in doubt"（中译：拿不准时，就收窄服务范围） (Amershi et al., CHI 2019).
这些道理听起来理所当然，但这正是重点所在。把一个智能体介绍成「什么都能帮上忙」，就跟把一个新员工介绍成「什么都挺擅长」一样，说了等于没说。 LENS 据我的经验，失败的上线往往正是跳过了这几条：智能体被介绍成「什么都能帮」，于是人们拿它去试了不该试的场景，信任还没来得及校准就已经崩塌。
实践四：有意识地设计，对抗过度依赖
EVIDENCE 标准制定机构与监管者如今已经把这个失败模式明说出来了。NIST 的生成式 AI 自愿性框架警告说 "humans may over-rely on GAI systems… This phenomenon is an example of automation bias, or excessive deference to automated systems"（中译：人类可能会过度依赖生成式 AI 系统……这种现象是自动化偏见的一个例子，也就是对自动化系统的过度顺从） (NIST AI 600-1, 2024）。欧盟《AI 法案》要求高风险系统在设计时必须确保 "that they can be effectively overseen by natural persons,"（中译：使其能够受到自然人的有效监督），并且监督者要 "remain aware of the possible tendency of automatically relying or over-relying on the output"（中译：时刻警惕自己可能倾向于自动依赖或过度依赖系统输出） (EU AI Act, Article 14).
这正是第 1 篇所说的「误用」，如今被写进了法律。 DESIGN 落到实处：把智能体的置信度和信息来源展示出来，让「我不同意」和「批准」一样容易点下去，并统计人们究竟多久否决一次。如果答案是「从来没有」，那要么是这个智能体已经完美无缺，要么就是根本没人在看。把赌注押在后者上。
实践五：弄清边界在哪里，像半人马（centaur）或电子人（cyborg）一样协作
EVIDENCE 回到开头那个赌注。在那项实验中，使用 AI 的顾问 "completed 12.2% more tasks on average, and completed tasks 25.1% more quickly,"（中译：平均多完成了 12.2% 的任务，完成任务的速度快了 25.1%），其成果 "more than 40% higher quality."（中译：质量高出 40% 以上）。但在那项特意选在 AI 能力边界之外的任务上，使用 AI 的顾问 "were 19 percentage points less likely to produce correct solutions"（中译：给出正确答案的概率反而低了 19 个百分点） (Dell'Acqua et al., HBS working paper, 2023）。答案是C。如果这部分你只记得住一条实践，那就记住这条：弄清楚自己站在边界的哪一侧。
又是第 1 篇讲过的「自动驾驶」问题：真正的危险，是那个你没能预见到的「移交时刻」。作者把这条边界称为参差不齐：AI 在某些任务上表现极佳，在看起来相似的邻近任务上却悄无声息地出错。他们发现了两种有效的协作方式。「半人马」式把工作拆开，"dividing and delegating"（中译：分工并委派），在人与 AI 之间分配。「电子人」式则"completely integrating their task flow with the AI."（中译：完全把自己的任务流程与 AI 整合在一起。） LENS 两种方式都行得通。真正会失败的，是根本不知道自己站在前沿的哪一侧——这正是实践三如此重要的原因。
实践六：预计新手获益最大，并保护他们的学习过程
EVIDENCE 一项针对 5,179 名客服坐席的研究（2023 年工作论文，2025 年发表于 Quarterly Journal of Economics ）发现，AI 辅助使 "issues resolved per hour, by 14% on average,"（中译：平均每小时解决的问题数提升了 14%，） 且 "a 34% improvement for novice and low-skilled workers but with minimal impact on experienced and highly skilled workers"（中译：对新手和低技能员工的提升幅度达 34%，而对资深、高技能的员工影响甚微） (Brynjolfsson, Li & Raymond, NBER).
这是这个领域里最好的消息，同时也是一声警钟。AI 实际上是在把专家的习惯传授给新手。但第 1 篇的原则一提醒我们：一个从不独立完成工作的新手，也许永远成不了下一代系统学习效仿的那个专家。 DESIGN 所以这条实践是双面的：既要给初级员工配上 AI 辅助，也要给他们刻意的、无辅助的练习和讲解——而不只是答案。
六条实践如何对应六条原则
每条实践，都是某条原则的落地实现：
| Practice | Implements | Evidence | |---|---|---| | Start simple | reliance you can calibrate (principle 2) | Anthropic 2024; OpenAI 2025 | | Gate the irreversible | judgment where it matters (part 1's frame) | OpenAI 2025; Anthropic 2024 | | Say what it can do | calibrated trust from day one (principle 2) | Amershi et al. 2019 | | Design against over-reliance | misuse, prevented (principle 2) | NIST AI 600-1, 2024; EU AI Act Art. 14 | | Know the frontier | the ironies, managed (principle 1) | Dell'Acqua et al. 2023 | | Protect how novices learn | the ironies, prevented (principle 1) | Brynjolfsson, Li & Raymond 2023/2025 |
OPEN 请注意缺失的部分：针对原则三到六（contracts、Conway、Goodhart、motivation）的实践，在现有公开指南中单薄得多。这个空白是业界尚未补上的开放问题。第 4 篇会接着讨论其中两个：委托契约与动机。
可能的失败方式
- 把实践当成合规打勾清单。 勾选「人类监督」却不去衡量人为否决的频率，不过是第 1 篇「误用」的新版本。
- 让闸门永远锁死。 如果不可逆闸门永远不放松，人们就会学着绕开它。
- 把单项研究误当作定律。 咨询公司和呼叫中心的研究都很扎实，但各自只是一个场景。换到你自己的场景里，再测一遍。
本周可以做的事
列出你的智能体能执行的每一个动作，标出哪些可逆、哪些不可逆，再数一数有多少不可逆动作是在没人事先过目的情况下运行的。如果这个数字不是零，你就找到了本周要修的问题。
接下来
实践演变得很慢。第 3 篇讲的是眼下正快速变化的东西：初级岗位招聘、技能退化、拥有自己身份的智能体，以及为什么 2025 年的几个头条数字已经过时了。
资料来源
- Anthropic（2024）。Building effective agents. https://www.anthropic.com/engineering/building-effective-agents
- OpenAI（2025）。A practical guide to building agents. https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf
- Amershi, S. 等（2019）。Guidelines for human-AI interaction. CHI 2019. https://www.microsoft.com/en-us/research/uploads/prod/2019/01/Guidelines-for-Human-AI-Interaction-camera-ready.pdf
- NIST（2024）。AI 600-1: Generative AI Profile. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- NIST（2023）。AI Risk Management Framework 1.0. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf
- European Union（2024）。EU AI Act, Article 14: Human oversight. https://artificialintelligenceact.eu/article/14/
- Dell'Acqua, F. et al. (2023). Navigating the jagged technological frontier. HBS working paper 24-013. https://mitsloan.mit.edu/sites/default/files/2023-10/SSRN-id4573321.pdf
- Brynjolfsson, E., Li, D. & Raymond, L. (2023；QJE 2025). 《职场中的生成式 AI》。 NBER w31161。https://www.nber.org/papers/w31161