Datasets:
Dataset Card for fineweb-2-edu-zhtw
UltraX 清洗欄位
原有欄位（text 與 zhtw_*、edu_* 等共 22 欄）維持不變，另新增以下欄位，記錄以
openbmb/UltraX-0.6B-Preview 清洗的結果。
UltraX 不做端到端改寫，而是預測結構化編輯操作（keep_all / remove_all / remove_lines /
replace_str / add_line），再由程式確定性套用，因此每個決策都可被檢驗與否決。
| 欄位 | 說明 |
|---|---|
cleaned_text |
清洗後文字，緊接 text 之後；needs_review 為 true 時等同原文 |
word_count / token_count |
原文的詞數與 token 數（本資料集原本沒有，一併補上） |
cleaned_word_count / cleaned_token_count |
清洗後對應數值，同一套算法 |
word_reduction_pct / token_reduction_pct |
減少比例（%） |
needs_review |
是否需要人工檢查 |
review_reasons |
命中的判準，逗號分隔 |
計數方式：word_count = CJK 逐字 + 英文逐詞（數字不計）；token_count = tiktoken cl100k_base。
清洗結果
- 共 838,217 列，其中 56.1% 模型判定
keep_all未做任何修改 - 平均縮減：詞數 1.82%、token 2.02%
- **9,871 列（1.18%）標記
needs_review**，這些列的cleaned_text一律保留原文
| 判準 | 意義 | 列數 |
|---|---|---|
removed>30.0% |
刪掉超過三成內容 | 8,741 |
too_long |
超過模型 20,480 token 上限，未送模型處理（不做截斷） | 385 |
emptied |
清洗後變空白 | 219 |
remove_all |
模型判定整篇無價值 | 219 |
marker_mismatch |
結構標記在清洗前後不一致 | 551 |
blocked>50.0% |
過半操作被護欄擋下 | 276 |
repetitive_pattern |
模型輸出重複迴圈 | 72 |
unparsable_output |
模型輸出無法解析出操作 | 0 |
使用建議
# 直接用清洗後語料，並排除有疑慮的列
ds = ds.filter(lambda r: not r["needs_review"])
texts = ds["cleaned_text"]
已知限制
- UltraX 的訓練語料是英文網頁（其 README 明載 Output Language: English），用於繁體中文屬遷移應用； 實測對聯絡資訊、版權宣告、裝飾符號的判斷可以遷移，仍建議抽查。
too_long的列完全未經清洗，cleaned_text等同text。
fineweb-2-edu-zhtw 是 lianghsun/fineweb-2-zhtw 中具教育價值的子集，以 fineweb-2-edu-zhtw-classifier 篩選而得，可作為繁體中文（台灣）語言模型的高品質預訓練語料。
保留來源的全部欄位（不只 text），另加 4 個分類結果欄位。
Dataset Details
- Curated by: Huang Liang Hsun
- Language(s): Traditional Chinese (zh-TW)
- License: ODC-By（沿用 FineWeb-2 母資料集授權）
- Source: lianghsun/fineweb-2-zhtw
← HuggingFaceFW/fineweb-2 (
cmn_Hani)
統計
| 項目 | 數值 |
|---|---|
| 來源列數 | 11,416,204 |
| 保留列數 | 838,217（7.34%） |
| 分片數 | 68 |
| 檔案大小 | 1.85 GB |
分類器對來源全量的判定分佈：
| 類別 | 列數 | 佔比 | 是否收錄 |
|---|---|---|---|
| 0 低（原始 1–2 分） | 10,577,987 | 92.66% | ✗ 排除 |
| 1 中（原始 3 分） | 741,019 | 6.49% | ✓ 收錄 |
| 2 高（原始 4–5 分） | 97,198 | 0.85% | ✓ 收錄 |
欄位
沿用 fineweb-2-zhtw 的全部欄位（text、id、dump、url、date、file_path、
language、language_score、language_script、minhash_cluster_size、top_langs、
以及 zhtw_* 系列判定欄位），另加：
| 欄位 | 型別 | 說明 |
|---|---|---|
edu_group |
int8 | 教育價值類別：1=中（原始 3 分）、2=高（原始 4–5 分） |
edu_prob_low |
float32 | 判為「低」的機率（校準後 softmax） |
edu_prob_mid |
float32 | 判為「中」的機率 |
edu_prob_high |
float32 | 判為「高」的機率——可用於進一步排序或設定更嚴格的門檻 |
Dataset Creation
- 來源：
fineweb-2-zhtw的 11,416,204 列繁中網頁（已完成產地、字形、陸用語、 品質等多層過濾，詳見母資料集 card）。 - 標註：Qwen3.6-27B 依五級教育價值標準標註 260,000 筆 （主標註 200,000 分層抽樣 + 高分補標 60,000 啟發式挖掘）。
- 分類器：Nemotron-3-Embed-1B（凍結）+ ordinal head， test macro F1 = 0.7991（高類 F1 0.7524）。
- 全量推論：對來源全部 11,416,204 列分類，收錄判定為「中」與「高」者。
Uses
Direct Use
- 繁體中文語言模型預訓練／持續預訓練的高品質語料。
- 以
edu_prob_high排序取更嚴格的子集（例如只取edu_group == 2）。 - 與 finepdf-edu-zhtw（PDF 來源）互補。
Out-of-Scope Use
- 不適用於需嚴格事實正確之領域：來源為未經查核的公開網頁。
- 「教育價值」由 LLM 判定，非人工標註，不應視為權威的教材品質評級。
Bias, Risks, and Limitations
- 標籤繼承 LLM 偏好：評分由 Qwen3.6-27B 產生，反映該模型對「教育價值」的判斷。
- 「中」類精確度有限：分類器在中類的 F1 為 0.6668，本資料集主要由中類構成，
因此會混入部分實際偏低的內容。要求更高品質請用
edu_group == 2或edu_prob_high設門檻。 - 時間分佈偏早期：繼承母資料集特性，2010 年代初期內容佔比較高。
- 母資料集的所有限制（機翻繁中殘留、維基繁體轉換版等）在此同樣適用。
Citation
@misc{fineweb2_edu_zhtw,
title = {fineweb-2-edu-zhtw: Educational Subset of Taiwan Traditional Chinese Web Text},
author = {Huang, Liang Hsun},
year = {2026},
howpublished = {\url{https://huggingface.co/datasets/lianghsun/fineweb-2-edu-zhtw}},
note = {Filtered from HuggingFaceFW/fineweb-2 under ODC-By.}
}
Dataset Card Authors
- Downloads last month
- 36