← 返回精选动态
精选动态

Artificial Analysis 和 IBM Research 发布 ITBe

Artificial Analysis 和 IBM Research 发布 ITBench-AA(59 个 SRE 任务)

更新于 2026年05月28日 16:49 2 条公开来源

发生了什么

Artificial Analysis 和 IBM Research 发布 ITBench-AA(59 个 SRE 任务)

为什么值得关注

该基准把企业 IT 代理任务拆成可复现的 Kubernetes 故障根因识别流程,并给出前沿模型低于 50% 的统一对比结果,适合关注代理式评测和企业场景能力边界的人直接查看榜单与论文。

信息来源

以下内容来自公开来源,可打开原文继续核验。

01

Artificial Analysis 和 IBM Research 发布 ITBe

twitter关注列表 2026年05月28日 02:08

Artificial Analysis 与 IBM Research 联合推出 ITBench-AA,这是一个用于评估模型在企业 IT 代理式任务上的新基准系列,首个场景是 Site Reliability Engineering(SRE)。该基准包含 59 个 SRE 任务,其中 40 个为公开任务、19 个为全新保留任务,任务覆盖 Kubernetes 故障响应,要求模型通过日志、依赖关系追踪、告警、指标和拓扑信息识别根因实体。测试采用开源 Stirrup harness,在 59 个任务 × 3 次重复的平均分上,Claude Opus 4.7(Adaptive Reasoning, Max Effort)以 47% 领先,GPT-5.5(xhigh)为 46%,Qwen3.7 Max 为 42%,所有前沿模型均低于 50%;开源权重模型中 GLM-5.1(Reasoning)以 40% 领先。

打开原始来源 ↗
02

Qwen3.7-Max 跻身 ITBench-AA 第3

twitter关注列表 2026年05月28日 16:08

Artificial Analysis 与 IBM Research 发布 ITBench-AA,这是一个用于评估模型在 agentic enterprise IT 任务上的新基准,首个场景是 Site Reliability Engineering(SRE)。该基准共包含 59 个 SRE 任务,其中 40 个公开任务、19 个全新留出任务;每个任务都提供 Kubernetes 故障快照,包含 alerts、events、traces、metrics、logs 和应用拓扑,要求模型在最多 100 轮、每任务 3 次重复的 open-source Stirrup harness 中定位根因实体。结果显示 Claude Opus 4.7(Adaptive Reasoning, Max Effort)以 47% 领先,GPT-5.5(xhigh)46%,Qwen3.7 Max 42%;所有前沿模型都低于 50%,open weights 中 GLM-5.1(Reasoning)以 40% 领先,DeepSeek V4 Pro(Reasoning, Max Effort)38%,Gemma 4 31B(Reasoning)37%。

打开原始来源 ↗
← 返回精选动态