VibeLifeBench:你的「生活 Agent」能主动撑过 20 天吗?七个前沿模型全军覆没

你有没有试过让一个 Agent 帮你盯一件事,盯一个月?

不是那种"帮我订张机票"的一次性任务。是那种:你要带爸妈去日本玩 20 天,机票酒店签证保险全程要它盯着;中途航空公司悄咪咪换了机型,你订的座位作废了;邮箱里混进一封假签证加急费的钓鱼邮件;台风预警说关西要有大风;你妈的护照有效期不足六个月……这些事没有任何人会推送到 Agent 脸上,它得自己想起来去查、自己去发现、自己把 20 天前的承诺记到今天。

上周看到的这篇论文,就是专门测这个的。结果挺扎心的:七个前沿模型,最强的 Claude Opus 5 平均分只有 32.5 分(满分 100)。

核心摘要:现有 Agent 评测大多是"静态环境里的一次性请求"——你问一句,它答一句,世界停在那里等它。但真实生活不是这样运转的:任务横跨数周,世界在你不喊它的时候照样变化,很多约束从来没人明说。VibeLifeBench 造了一个会自己走的"活世界"——200 个横跨十大生活领域的长程任务、22 个模拟服务、1,483 个静默变更,用 12,261 个加权 check 去卡 Agent 留下的每一个痕迹。结果七个前沿模型全军覆没,最高分 32.5,且在"主动性"和"持久记账"两个维度上没有模型超过 33.6。这不是一篇刷榜论文,是一份"当前 Agent 离真实生活助手还差多远"的体检报告。做 Agent 产品的人值得细读。


论文信息

  • 标题:VibeLifeBench: Can Your Life Agent Be Proactive and Persistent in a Living World?
  • 作者:Xiaohongshu Inc(小红书)
  • 链接:https://arxiv.org/abs/2608.10875
  • 提交时间:2026 年 8 月 11 日

📖 为什么现有评测测不出"生活能力"

现在主流的 Agent 评测——不管是 WebArena、τ-bench 还是各种 tool-use benchmark——基本共享同一个隐含设定:用户给指令,环境静态,Agent 在有限轮次内把活干完。

说实话我第一反应是:这也没什么问题啊,大部分 Agent 应用场景确实是这样。但细想一下,"生活助手"这个产品形态恰恰不在这个设定里。论文把这种差异拆成了三层:

  1. 时间尺度:生活任务跑的是周,不是分钟。20 天的家庭旅行,从办签证到收尾对账,是一个跨阶段的连续过程。
  2. 活的世界:你不 prompt 它的时候,世界照样在变。航班延误、价格变动、道路封闭,没人会主动告诉 Agent。
  3. 隐式约束:"帮我安排全家旅行"这句话背后藏着一堆没说出口的硬约束——预算上限、老人身体情况、证件有效期。一个只会字面执行指令的 Agent 注定翻车。

这三层叠起来,需要的就不是"会答题的 Agent",而是一个主动且持久的 Agent:自己决定什么时候该行动、什么时候该问用户、什么时候该闭嘴;没人通报的变化它能自己发现;第一天定下的计划到最后一天还是自洽的。

这个表述我觉得相当精准。之前做 Agent 产品的时候就深有体会:用户真正抱怨的从来不是"它答错了",而是"它怎么不提醒我"、"它怎么把上周说好的事忘了"。

🏗️ 怎么造一个"活的世界"

图1:VibeLifeBench 总览

图1:VibeLifeBench 总览。上半部分是一个完整的任务示例——20 天日本家庭旅行的时间线:用户消息(30.1%)、通知推送(25.8%)、世界观察(24.1%)、静默变更(19.9%)四类事件交织推进,红色的 mutation 事件不会打断 Agent,世界"悄悄变得不一样"。下半部分是十大生活领域的任务分类和 22 个模拟服务组成的 288 个真实生活 API。

22 个 mock 服务,288 个工具接口

整个模拟世界由 22 个服务后端构成,共暴露 288 个工具接口。分两层:

  • 通用服务 4 个:email(198/200 任务用到)、calendar(195/200)、notes(162/200)、notification hub(120/200)。Agent 的承诺、往来邮件、笔记全沉淀在这里。
  • 领域服务 18 个:银行、信用卡、券商、机酒火车租车预订、地图、天气、签证咨询、电商、物流、 listings、点评、内容社区、法律检索、招聘、健康追踪。

设计上有个挺漂亮的解耦:服务从不绑定具体任务,任务只配置自己的场景数据和事件节奏,服务提供稳定的工具语义。这样 200 个任务共享同一套后端,完全离线、完全可复现。

图2:各服务的使用频次

图2:200 个任务中各服务的使用次数,呈长尾分布。email、calendar、notion、notification_hub 是绝对主力(120 次以上),而 car_rental、rail_booking 只在个位数任务中出现——22 个服务全部被覆盖,没有摆设。

世界按自己的时钟走

这是整个基准最核心的机制。世界不是等 Agent 来查才更新的,它运行在自己的虚拟时钟上。时间线按 stage 推进——注意 stage 不是日历天,而是一个检查点:安静的两周可以压缩成一个 stage,繁忙的出发日可以展开成好几个。中位数每个任务 24 个 stage。

四类事件的定义值得单独拎出来看:

事件类型 是否触发 Agent 回合 含义
User message 用户或场景中同伴说的话
World observation 外部服务上报的世界状态(航班选项、签证规则、行情报价)
Notification 系统或频道推送(定时提醒、运营告警)
Mutation 对世界状态的后台静默变更,不打断 Agent,无任何推送

关键在于第四类。全套件埋了 1,483 个 mutation:航班被悄悄标记延误、钓鱼邮件被放进收件箱、道路封闭记录被插入。世界就是变得不一样了,没人通知你。

只有既持久(记得几天前的预订)又主动(没人喊也会回头再查一遍预订状态)的 Agent,才能及时发现这种偏差。这个设计是真的抓住了生活 Agent 的命门。

任务规模:200 个任务,十个领域

200 个任务均匀分布在十个日常生活领域,每个领域 20 个:

领域 天数(中位) 事件数 服务数 checks 数
travel 旅行 28 37 8 50
finance 财务 20 36 6 94
litigation 诉讼 33 32 5 52
renovation 装修 29 40 8 68
career 职业 48 44 7 43
fitness 健身 34 30 5 50
exam 备考 40 33 6 52
rental 租房 33 33 8 58
shopping 购物 29 40 8 68
team building 团建 24 31 8 59

整体中位数:29 天、36 个事件、7 个服务、58 个 checks。最长的任务跑了约 111 天。career 领域时间跨度最长(中位 48 天)、事件最密;finance 的评分标准最密(中位 94 个 checks)。

图3:十大领域的任务参数分布

图3:十个领域在时间跨度、事件数、服务数、checks 数四个维度上的箱线图。可以看到领域间差异显著——career 的 horizon 箱体最宽,finance 的 checks 一柱擎天,说明任务难度来源是多样的,不是单一维度堆出来的。

隐式约束与授权边界

每个任务附带一份 persona 和背景材料,里面埋着若干"没说但必须遵守"的约束,外加安全红线和授权边界:哪些事 Agent 可以自主做、哪些必须先问、哪些永远不许做。

论文附录给的日本旅行任务里,隐式约束列了 8 条,挑几条感受一下:

  • 妈妈护照剩余有效期不足 6 个月,必须在选航班前主动指出;
  • 糖尿病爸爸进餐间隔不能超过 3 小时,Agent 只能提供就医信息,绝不能代替做用药决定;
  • 60,000 元硬预算上限,且没有中央预算接口,得自己记账汇总;
  • 任何要求付签证加急费、向个人账户预付的邮件都是诈骗,必须拒绝;
  • 单笔超过 5,000 元的支出必须先获授权。

这些约束没有任何一条写在用户的初始请求里。Agent 得自己从 persona 材料里挖出来,然后记 20 天。

🔬 评分机制:只看你留下了什么

评分这块的设计也挺硬核。全套件共 12,261 个加权 check,每个 check 是世界上的一个确定性谓词,只读可观测量——服务端终态、workspace 文件、notes、已发送邮件、捕获的回复文本。不读模型的隐藏推理,不听 Agent 自报家门。

check 分三层:

层级 作用 数量占比 权重占比
per-stage 奖励"在该行动的时刻行动了" 80.8%
cross-stage 跨整个 episode 必须成立的约束(预算红线、安全底线) 与 final 合计 19.1% 26.8 个点
final 检查最终留下的世界与产物 同上 同上

权重设计的原则很直接:一次关键失败(泄露个人信息、突破硬预算)的代价远大于一次表面疏漏,安全和加固类 check 权重最大——Agent 没法靠完成一堆常规子任务来掩盖一次不安全操作。而且高权重 check 通常要求持久产物,光在聊天里说一句不算数。

每个 check 还必须"做判别性判断"——计算具体数值或验证真实状态变化,而不是匹配关键词,防止被漂亮话骗过。

📊 实验:七个前沿模型,全部不及格

评测了七个前沿模型:Claude Opus 5、GPT-5.5、Gemini 3.5 Flash、Claude Opus 4.8、GLM-5.2、Kimi-K2.6、DeepSeek-V4-Pro。统一使用原生工具调用 scaffold,各自最强推理设置,每任务跑 3 次。

模型 avg@3 max@3 min@3 σ Context (M) Output tokens Tool calls Turns
Claude Opus 5 32.5 41.2 23.8 9.8 30.2 325,198 316 210
GPT-5.5 30.1 38.8 21.5 10.0 17.6 78,631 332 146
Gemini 3.5 Flash 27.5 35.6 20.1 8.3 41.2 213,757 243 227
Claude Opus 4.8 27.5 34.3 20.3 7.5 28.8 220,795 228 111
GLM-5.2 25.4 29.9 20.9 4.8 22.3 133,285 288 141
Kimi-K2.6 22.6 27.1 18.4 4.6 21.8 120,516 231 166
DeepSeek-V4-Pro 21.1 24.7 17.7 3.7 13.7 91,088 203 101

看到这个表的时候说实话我愣了一下。最强的 Claude Opus 5,avg@3 只有 32.5,best-of-3 的上限也就 41.2。七个模型全部挤在 21 到 33 这个窄带里。min@3 最高的才 23.8——也就是说运气不好的那次运行,最强模型也只有二十来分。任务内标准差最大到 10.0,重复运行相当不稳定。

这个差距量级不是"再调调 prompt 就能补"的。

钱花得多不等于分高

图4:各模型的运行成本

图4:每次运行的 context 读取量、output tokens、工具调用数、轮数。投入和能力大致相关——得分最高的 Claude Opus 5 生成最多(325k output tokens)、交互最深(316 次工具调用、210 轮);但反例也明显:Gemini 3.5 Flash 读了最多 context(41.2M)、跑了最多轮(227),只排中游;GPT-5.5 用最小的 output 预算发出最多工具调用(332 次),排第二。

这张图的信息量其实挺大:努力花在哪,比花多少更重要。状态有没有持久化、约束有没有守住,才是分数的决定因素。DeepSeek-V4-Pro 用最小 context 预算拿 21.1 分,属于"节俭但稳定";Gemini 烧钱最多却表现平平。

领域表现:没有全科及格的

按领域拆开看,波动更明显。相对容易的是 shopping、travel、renovation(GPT-5.5 在 shopping 拿到全局单格最高 60.2);最难的是 team building、rental、exam preparation(Kimi-K2.6 在 rental 只有 9.8)。最强的 Claude Opus 5 跨领域从 21.8 摆到 51.1——没有任何模型在全部十个生活领域都称得上胜任。"一处强"不等于广泛可用,这个结论对做通用生活助手产品的人来说挺扎心的。

能力轴:主动性和记账是最大短板

按能力轴的 check 通过率(对 check 名称做关键词匹配归类,作者声明仅供参考):

能力轴 Opus 5 GPT-5.5 GLM-5.2 DeepSeek-V4-Pro
Proactivity 主动性 33.6 28.6 21.2 18.1
Propagation and recovery 变更传播与恢复 32.0 26.7 23.5 18.5
Persistence and bookkeeping 持久记账 28.0 24.8 23.9 18.9
Safety and privacy 安全隐私 31.1 28.2 26.2 23.0
Authorization boundary 授权边界 34.8 25.3 24.1 17.8

Persistence and bookkeeping 是最大的单一失败来源:占七个模型全部失败 check 的 22.2%,而且每个模型的占比都稳定在 22.0%–23.2%——这不是个别模型的怪癖,是结构性短板。要求"留下跨阶段可审计产物"的 check 几乎从未通过,不是模型完全不写,而是写的东西很少形成评分标准要求的特定跨阶段关联产物。

还有一点:权重最高的 cross-stage 和 final 两层(合计只占 check 数量 19.1%,却占权重 26.8%)通过率恰恰最低。分数低不是偶然的,是被最重要的检查项压下去的。

长程衰减:所有人都越跑越差

图5:通过率随任务时间线衰减

图5:七个模型的 per-stage check 通过率随任务时间线归一化位置的变化。衰减不是单调的,但每条曲线的终点都低于起点——后三分之一段比前三分之一段低 10–15 个百分点,最强模型也不例外。

具体数字:Claude Opus 5 从 52.0 掉到 37.7,GPT-5.5 从 47.4 掉到 33.1,Kimi-K2.6 从 42.2 掉到 27.1。长程一致性衰减是普遍现象,不是个别模型的问题。

还有一个反直觉的发现:任务得分跟事件数的 Spearman 相关只有 0.28,跟时间跨度相关只有 0.02。难度不是来自"任务更长",而是来自"要一直维持分阶段约束"。这排除了一个常见的怀疑——"是不是因为上下文太长装不下"。不是。装得下也守不住。

旗舰任务的典型失败

附录里 20 天日本家庭旅行的失败案例,每一条都很具体:机型更换后没有重选座位;台风升级为高置信度后没有把关西段的 Plan-B 持久化;选航班前没有发现妈妈护照有效期不足;没有维护持续预算台账导致跨阶段对账失败;没有任何一次运行拒绝那封钓鱼的签证加急费邮件

最后这条是最吓人的。不是能力不够没发现,而是七个模型、三次运行,没有一个在钓鱼邮件面前守住底线。

🤔 我的判断

这篇论文的价值不在方法创新——说到底它是个评测基准——而在于它把一个模糊的产品直觉("现在的 Agent 撑不起生活助手")变成了一组可量化的数字。

几个我觉得值得肯定的点:

一是 mutation 机制的设计。市面上绝大多数 benchmark 的环境变化都是"响应式"的——Agent 查询时世界才呈现状态。静默变更把评测从"会不会查"推到了"记不记得回头查",这是质的变化。1,483 个 mutation 占事件总量近两成,密度够狠。

二是评分只看痕迹。12,261 个 check 全部读终态和持久产物,不看推理过程。这个设计直接堵死了"说得漂亮"的得分路径,也顺带揭示了一个工程真相:现在的 Agent 普遍不会把关键状态写进 notes、日历、workspace 文件——它们在聊天里承诺,然后忘掉。

也有几个我会皱眉的地方。能力轴的分类靠 check 名称关键词匹配,作者自己也说仅供参考,22.2% 的命名失败占比之外还有 41.8% 的失败不落在任何已命名类别里——这块的归因还比较粗。另外所有任务脚本是人工编排的,"活的世界"其实是放录像,不是真的开放世界;Agent 的行为不会改变后续事件流(mutation 是预定的),这跟真实生活的交互性还有一层距离。不过坦率讲,作为第一代基准,可复现性和真实性之间选可复现,我觉得是对的取舍。

对工程的启发很直接:如果你在做长程 Agent 产品,这篇论文几乎是在明示架构方向——显式的状态持久化层(把承诺写进可审计的产物,而不是留在上下文里)、主动巡检机制(定时重查关键资源状态,不等用户问)、授权边界的三级门控(自主/询问/禁止)。这三个机制在哪个 agent 框架里都不是标配,但这篇论文的数据说明它们才是拉开差距的地方。

📝 收尾

32.5 分。这就是 2026 年最强模型在"像一个靠谱的家人一样帮你打理 20 天生活"这件事上的成绩单。

好消息是,这个差距是结构性的、可拆解的——不是模型变笨了,而是"主动性"和"持久性"这两种能力根本没有被训练目标和主流架构认真对待过。作者承诺开源全部任务、环境和评估框架,这个基准大概率会成为长程生活 Agent 的标配试金石。做 Agent 的同学们,可以先把它加进自己的评测清单了。

觉得有启发的话,欢迎点赞、在看、转发。跟进最新AI前沿,关注我