Agent 能力每 7 个月翻一番!大牛网
根据非营利研究机构 METR 最新发布的报告,这一规律已在 9 项基准测试中得到了验证。
这些任务涉及编程、数学、计算机使用、自动驾驶等领域,表明大模型正在不断向着高度自动化迈进。
报告指出:在软件开发、数学竞赛、科学问答等任务中,agent 已能完成相当于人类花费 50 – 200 分钟才能完成的任务,并且这种能力还在快速提升——大约每2 – 6 个月就能翻一番。
在计算机操作任务中,虽然任务时长较短,但增长率与软件开发等任务一致。
Agent 在自动驾驶任务的性能增长速度则较慢,约 20 个月翻一番。
在视频理解任务中,模型能够在时长 1 小时的视频上取得50%的成功率。
作为一家致力于研究前沿人工智能系统能力及其风险的研究团队,METR 此次的报告又进一步拉近了 AI 自主化的时间线,快来和我们看看报告有哪些内容吧。
Agent 的摩尔定律
在此前的测试中,METR 将评估范围聚焦于软件开发和研究类任务,并发现 AI agent 的能力呈现出一种"摩尔定律"式的增长趋势——平均每七个月,其可完成任务的 time horizon 就会翻一番。
而在最新报告中大牛网,METR 将这一评估方法拓展至更广泛的领域,并继续追问一个关键问题:AI 的能力,是否能在更广泛的任务中,以 time horizon 翻倍的方式不断跃升?
不过我们首先要问的是,什么是 time horizon?
举例来说,人类平均花 30 分钟完成一个任务,AI 如果能在这类任务上有一半成功的概率,那就说它的 time horizon 是 30 分钟。如果它成功率还远高于一半,例如达到 80%,那说明它其实能胜任更长、更复杂的任务。
概括地说,time horizon 就是 agent 在任务上可稳定完成的时间跨度。
由于time horizon 越长≈任务越难≈需要更多策略推理与计划能力≈智能体的智能水平越高,所以 time horizon 的翻倍也被称为agent 的摩尔定律。
由于 AI 在不同任务中的能力差别极大,所以现在的问题是:这个指数级增长规律,会在其他领域也成立吗?
如何跨领域衡量 time horizon?
为了证明上面的问题,报告选取了 9 个 benchmark,包括软件开发(METR ‑ HRS、SWE ‑ bench)、计算机使用(OSWorld、WebArena)、数学竞赛(Mock AIME、MATH)、编程竞赛(LiveCode-Bench ) 、科学问答(GPQADiamond)、视频理解(Video ‑ MME)、自动驾驶(Tesla FSD)和机器人仿真(RLBench)。
对每个 benchmark,METR 构造了概率模型来估算 agent 的 time horizon。报告采用最大似然估计(MLE)或简化估计方法,处理不同 benchmark 的标签粒度以估算出每个领域 AI 随时间的 time horizon 增长曲线。
值得注意的是,不同基准测试的 time horizon 边界相差超过 100 倍。许多推理和编码基准测试的集群时间都在 1 小时或以上,但在计算机的使用时间(OSWorld、WebArena)仅为约 2 分钟大牛网,而这可能源于 agent 在使用鼠标时发生的误触。
研究发现:智能体能力按月翻番
除了我们开头提到的智能体的能力变化,报告还测试了当前主流的几家大模型的能力。例如,像 o3 这样的前沿模型在 METR 任务上的表现一直高于趋势水平,翻倍时间快于 7 个月,在 9 个基准测试的翻倍时间中位数约为 4 个月(范围为 2.5 至 17 个月)。
最后,time horizon 并非对于所有的基础测试中都重要。由于有些基准中难题的难度要远大于简单题,而在另一些基准中,难题却和简单题相差无几。因此,对于 agent 来说,在这些基准测试中 time horizon 并不能完全反映其性能。
例如,LeetCode(LiveCodeBench)和数学问题(AIME)的难度要远高于简单问题,但长视频上的 Video-MME 问题并不比短视频上的难多少。
可见,agent 的性能并不只是看"会更多技巧",而是看是否能处理更长、更复杂任务。
从几秒、几分钟,到几十分钟、几小时,agent 的可处理范围正在跨越级别提升;如果翻倍趋势持续,未来几年内可能看到 AI 完成"几天→几周"的任务成为可能。
总结这一研究可以看到一个很清楚的规律:从代码推理到数学竞赛,从 GUI 控制到自动驾驶,没有一个任务域显示出智能增长的"乏力"。在多数场景中,AI 正全速向更大跨度、更深记忆、更复杂规划演进。
参考链接:
[ 1 ] https://arxiv.org/abs/2503.14499
[ 2 ] https://metr.org/blog/2025-07-14-how-does-time-horizon-vary-across-domains/
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
专属 AI 产品从业者的实名社群,只聊 AI 产品最落地的真问题 扫码添加小助手,发送「姓名 + 公司 + 职位」申请入群~
进群后,你将直接获得:
� � 最新最专业的 AI 产品信息及分析 � �
� � 不定期发放的热门产品内测码 � �
� � 内部专属内容与专业讨论 � �
� � 点亮星标 � �
科技前沿进展每日见大牛网
淘配网平台提示:文章来自网络,不代表本站观点。