Datasets:

Modalities:
Text
Formats:
json
ArXiv:
Libraries:
Datasets
Dask
License:
guxiaowu commited on
Commit
6bfc29a
·
verified ·
1 Parent(s): d725f49

Upload folder using huggingface_hub

Browse files
Files changed (2) hide show
  1. README.md +4 -0
  2. README.zh_CN.md +11 -1
README.md CHANGED
@@ -1,3 +1,7 @@
 
 
 
 
1
  # Web-Bench
2
 
3
  English | [中文 README](README.zh_CN.md)
 
1
+ ---
2
+ license: cc-by-4.0
3
+ ---
4
+
5
  # Web-Bench
6
 
7
  English | [中文 README](README.zh_CN.md)
README.zh_CN.md CHANGED
@@ -8,4 +8,14 @@ license: cc-by-4.0
8
 
9
  ## **📖** Overview
10
 
11
- **Web-Bench** 是一个用于评估 LLM 在真实 Web 项目上表现的基准测试。Web-Bench 包含 50 个项目,每个项目包含 20 个有时序依赖关系的任务,他们依次实现了项目的各个特性,逼真模拟了人类开发项目的过程。Web-Bench 在设计时考虑了如何覆盖 Web 应用开发所依赖的基础:Web Standards 和 Web Frameworks。由于它们的庞大规模和复杂度,以及设计项目的工程师具备 5-10 年开发经验,最终设计出来的项目对于人类资深工程师而言都具有一定的复杂度(单项目平均 4-8 小时完成)。
 
 
 
 
 
 
 
 
 
 
 
8
 
9
  ## **📖** Overview
10
 
11
+ **Web-Bench** 是一个用于评估 LLM 在真实 Web 项目上表现的基准。Web-Bench 包含 50 个项目,每个项目包含 20 个有时序依赖关系的任务,逼真模拟了人类开发项目的过程。Web-Bench 在设计时考虑了如何覆盖 Web 应用开发所依赖的基础:Web Standards 和 Web Frameworks。由于它们的庞大规模和复杂度,以及设计项目的工程师具备 5-10 年开发经验,最终设计出来的项目对于人类资深工程师而言都具有一定的复杂度(单项目平均 4-8 小时完成)。在我们给定的基准 Agent 上,SOTA(Claude 3.7 Sonnet)Pass@1 仅有 25.1%,显著优于 SWE-Bench 的值(2025.4) 65.4% (Verified) 和 33.8% (Full) 。
12
+
13
+ 实验数据的分布和当前主流 LLM 代码生成能力也较匹配。
14
+ ![pass@1](./docs/assets/pass-1.png)
15
+
16
+ HumanEval 和 MBPP 已趋于饱和,APPS 和 EvalPlus 也正在接近饱和状态。Web-Bench 的 SOTA 为 25.1%,低于 (低更好) SWE-bench Full 和 Verified。
17
+ ![SOTAs](./docs/assets/sotas.png)
18
+
19
+ ## 📘 Usage
20
+
21
+ [GitHub](https://github.com/bytedance/web-bench)