← 返回 Blog

Agent 市场的第一道门槛,不是会谈判,而是懂用户

Anthropic 的 Project Swap 把 201 名员工带进一次低风险换书实验。结果显示,偏好表示的误差比谈判机制更能解释理想分配与实际结果之间的差距。

抽象的书籍交换路径示意:不同偏好的书籍沿着蓝色与薄荷色轨迹在参与者之间流动
文章目录

201 人参加了一场 agent 换书实验,最难的部分不是讨价还价#

如果把 agent 放进一个市场里,让它替用户交换物品,我们很容易先问:它会不会谈判、能不能找到更好的交易组合?Anthropic 的 Project Swap 给出的提醒有些不同:在这次内部换书实验中,系统离理想分配最远的那一段,主要不是市场没谈好,而是 agent 没有足够准确地表示用户到底喜欢什么。

这不是说谈判机制不重要。它是在提示产品团队:如果用户偏好输入本身有偏差,再聪明的交易流程也只是在错误地图上优化。

先把“用户喜欢什么”变成可检验的输入#

Project Swap 邀请 201 名 Anthropic 员工带一本书参与交换。参与者先与 Claude Fable 5 做一段简短、半结构化的访谈,之后从 10 本书中给出自己的排序,作为研究中的“真实偏好”参照。多数分析使用了 188 份有效排序;都柏林场地只有 3 人,相关分析通常将其排除。

研究者用访谈内容估计每个人对书的排序,再把 agent 放进一个共享交易场:它们可以提出双边交换,也可以组织多人轮换;交易需要所有相关参与者接受,并受到消息并发和总时长限制。换书是低风险、可观察的任务,但完整流程已经包含了用户建模、撮合、协商和履约等不同环节。

一个有用的检查是:模型猜的偏好,是否真的接近参与者事后给出的排序?在比较过的书籍两两关系中,Claude 的估计与参与者排序一致率为 61%;随机排序是 50%,按书籍受欢迎程度排序为 53%,协同过滤为 55%。参与者与模型的访谈中位数为 8 条消息、216 个词。报告还发现,约 300 词访谈与约 150 词相比,对应高 4.1 个百分点的一致率;这是相关关系,不是“多问 150 个词就能因果提升 4.1 个百分点”的证明。

这组比较没有证明偏好预测已经足够好。61% 仍意味着不少两两偏好判断与参与者的自我排序不一致;而排序一致率也不等于交易完成后用户满意。

把总损失拆开看,产品改进顺序就不一样了#

研究把参与者自己给出的排序作为评价依据,并比较三个结果:理想分配得分为 0.89;使用 Claude 偏好排序计算出的最佳分配,得分为 0.60;实际分布式市场谈判的结果为 0.55。这里的效用分数把序数排名线性映射成分值,相当于假设排序相邻位置之间的偏好差距相等。

从理想分配到实际市场结果的 0.34 差距中,作者将 0.29(约 85%)归于偏好表示误差,将 0.05(约 15%)归于分布式谈判与市场设计。研究用 Top Trading Cycles 机制得到的结果也约为 0.60。换句话说,在这套数据和评价口径下,先把偏好表示做好,比只更换撮合机制带来的改善空间更大。

Project Swap 中理想分配、偏好表示误差与市场谈判结果的得分拆解

这些数字不是所有 agent 市场的固定损失比例。它们依赖于这次实验的书籍、参与者、排序估计方式和效用映射。尤其是 0.89、0.60、0.55 都来自同一研究框架中的结果,不应拿去预测别的商品市场会达到什么分数。

更强的模型,不等于更好的用户结果#

报告还在重跑中比较了 Haiku 4.5、Sonnet 4.5、Opus 4.8 和 Fable 5。模型排序在作者自己的偏好评分口径下分别得到 0.75、0.80、0.88 和 0.86:Opus 高于 Haiku,但 Fable 低于 Opus,并没有形成简单的单调关系。

更关键的是,换成参与者自己的排序来评估,相应比较中的 Haiku 与 Opus 结果差距从 0.12 缩小到 0.01。前一组数字主要回答“模型按自己的偏好排序时,市场结果如何”;后一组才更接近“这些交易是否符合参与者本人排序”。两个指标不能混作一张通用模型排行榜。

因此,团队若要评估一个替用户行动的 agent,至少要把模型能力、用户偏好建模和最终用户效用分开测。模型在内部目标上做得更好,未必代表它更忠实地实现了用户目标。

交易之外,还要问授权与履约#

实验初始条件中,所有交易 agent 使用 Opus 4.8,并被随机分配为“ruthless”或“prosocial”两种谈判指令。报告称,ruthless 组按 Claude 排序衡量的结果约高 0.02;prosocial 组接受排名较低书籍的情况大约是前者两倍,但两组都不常发生。它说明目标设定可能改变收益与让步方式,却不能证明现实业务中更强硬的 agent 一定带来更好结果——这里的得分口径仍是 Claude 的排序,而且书籍交换并不等同于真实商业谈判。

履约也暴露了一个常被忽略的产品边界:由于研究没有安排取件和交付追踪,有些参与者没有收到承诺交换给他们的书。agent 谈成交易,不代表交易已经完成;在真实产品里,库存锁定、支付、物流、取消、争议处理和补偿都可能决定用户最终体验。

对 AI 产品经理的启发:把“代理用户”拆成四道检查#

第一,先验证偏好是否被听懂。不要只问用户是否觉得对话自然;用可核对的选择、排序或后续行为检查模型是否准确表达了用户目标,并记录不确定性。

第二,把委托范围显式化。哪些条件可以由 agent 自主权衡,哪些是硬约束,最高可接受的让步是什么?“帮我换一本更喜欢的书”没有定义价格、等待时间和可接受折衷,系统就只能暗中替用户补目标。

第三,分别评估策略和结果。谈判轮数、成交率是过程指标;是否满足用户排序、用户是否愿意再次委托才是结果指标。两者同时看,才知道效率提升有没有以偏离用户意图为代价。

第四,把成交后的责任设计进去。需要追踪承诺是否兑现,并为失败提供可见状态、撤销与申诉路径。只优化“谈成了”会把履约风险留给用户。

当 agent 开始替用户搜索、购买或交换,关键问题不只是它能否找到交易,而是它代表谁、按什么偏好行动,以及行动失败后谁来负责。Project Swap 的价值不在于给出一套可直接复制的市场答案,而在于把这几类问题放进同一场可观察的实验里。

来源与边界#

  • 原文:Anthropic Economics,Zoë Hitzig、Sylvie Carr、Tess Cotter、Kevin Troy、Kyle Turman、Maxim Massenkoff 与 Peter McCrory,Project Swap: What happens when agents trade for us?,发表于 2026 年 9 月 24 日。 研究介绍 · 完整报告 PDF
  • 研究对象与设置:Anthropic 员工参与的低风险书籍交换;201 人参与,主要排序分析基于 188 份参与者排序。研究包含偏好访谈、偏好排序估计、agent 交易和机制重跑。
  • 关键方法与数字:偏好两两排序一致率、理想分配与市场结果的效用得分,以及不同谈判指令和模型设置下的重跑。效用分数根据序数排名线性映射,且偏好误差/谈判设计的 85%/15% 分解只适用于该实验与评价口径。
  • 不能据此证明:相同损失分解会出现在真实零售、金融或劳动力市场;更强硬的指令普遍提升用户福利;模型自评排序能代表用户真实偏好;或参与者满意度可以推广到更广泛人群。参与者均来自 Anthropic,任务是换书,市场 agent 使用 Anthropic 模型;报告也指出调查回应存在选择偏差,且研究未覆盖完整物流履约。
  • 本文的产品化解读:把用户偏好表示、授权边界、交易机制和实际履约作为独立但相连的评估环节;这是基于上述实验的设计建议,不是原文直接验证过的通用因果结论。