Datasets:
Dataset Card for R1-Distill-SFT-zh-tw
本資料集是 ServiceNow-AI/R1-Distill-SFT 的台灣繁體中文(zh-TW)翻譯版,共 515,500 筆推理對話。每筆保留原始英文內容於 raw 欄位,方便對照與後續重新處理。
Dataset Details
Dataset Description
原始資料集是以 DeepSeek-R1 蒸餾產生的 SFT 語料,內容以數理推理為主,答案中含完整的思考過程。本資料集將其對話內容翻譯為台灣在地用語的繁體中文,目的是提供中文推理模型訓練所需的 long-CoT 語料。
- Curated by: 黃亮勳(Huang Liang Hsun)
- Language(s) (NLP): zh-TW(翻譯內容)、en(
raw欄位保留原文) - License: cc-by-nc-sa-4.0(沿用上游 ServiceNow-AI/R1-Distill-SFT 的授權,禁止商業使用)
Dataset Sources
- Upstream dataset: ServiceNow-AI/R1-Distill-SFT(使用
v1split 的reannotated_messages欄位)
Uses
Direct Use
- 訓練或微調繁體中文推理模型(long chain-of-thought SFT)
- 中英對照的推理語料研究:每筆都有
raw英文原文,可作翻譯品質或跨語言推理的分析素材
Out-of-Scope Use
- 商業用途(授權為 CC BY-NC-SA 4.0)
- 直接作為事實知識來源。內容為模型生成的推理過程,未經人工查核,數學與事實錯誤都可能存在
Dataset Structure
資料以 Parquet 格式存放於 data/,共 11 個 shard、515,500 筆:
data/train-00000-of-00011.parquet
...
data/train-00010-of-00011.parquet
可直接載入:
from datasets import load_dataset
ds = load_dataset("lianghsun/R1-Distill-SFT-zh-tw", split="train")
每筆欄位:
| 欄位 | 型別 | 說明 |
|---|---|---|
system |
string |
系統提示,本資料集中固定為空字串 |
conversations |
list<struct<from: string, value: string>> |
翻譯後的對話,from 為 human 或 gpt |
raw |
list<struct<role: string, content: string>> |
上游原始英文訊息 |
conversations 中的 gpt 回覆保留 <|begin_of_thought|>、<think> 等思考標記與 LaTeX 數學式。
Dataset Creation
Curation Rationale
繁體中文的 long-CoT 訓練語料稀少,且多數中文推理資料集使用中國大陸用語。本資料集以台灣用語為翻譯目標,補足這個缺口。
Source Data
Data Collection and Processing
- 讀取上游
R1-Distill-SFT/v1的 parquet 檔,取reannotated_messages欄位並隨機打散 - 逐則訊息送 LLM 翻譯(Azure OpenAI GPT-4o,經自架 LiteLLM proxy 呼叫),system prompt 要求:
- 輸出台灣繁體中文,用詞須符合台灣社會慣用語
- 中英文與符號交雜時加上適當空格
- 標點符號全形(英文句子內用半形)
- 完整保留
<|begin_of_thought|>、<think>等特殊標記 - 完整保留 LaTeX 符號
- 翻譯結果再經 OpenCC
s2twp轉換,統一為台灣正體用字與慣用詞 - 角色欄位對應:
user→human、assistant→gpt
Who are the source data producers?
上游資料由 ServiceNow AI 以 DeepSeek-R1 蒸餾產生;本資料集的翻譯由 GPT-4o 自動完成。
Personal and Sensitive Information
內容為數理推理題目與解答,未刻意收集個人資料。惟上游語料未經逐筆人工檢視,不排除偶發的個資殘留。
Bias, Risks, and Limitations
- 翻譯品質未經人工校對。 全部 515,500 筆皆為機器翻譯,可能有漏譯、誤譯、術語不一致,或 LaTeX / 思考標記在少數樣本中損壞
- 推理內容本身可能是錯的。 上游為模型蒸餾產物,思考過程與最終答案都未經驗證
- 繼承上游偏誤。 題目分布偏重數學與程式,其他領域覆蓋有限
- 翻譯用的 system prompt 含有「避免回答冒犯性內容」等指示,可能在少數樣本中影響翻譯的忠實度
Recommendations
建議使用者在訓練前自行抽樣檢查翻譯品質,並針對 <think> 標記的完整性做一次過濾。若需要嚴謹的正確性,應搭配答案驗證機制。
Citation
若使用本資料集,請一併引用上游資料集 ServiceNow-AI/R1-Distill-SFT。
Dataset Card Contact
透過 Hugging Face 上的 lianghsun 聯繫。
- Downloads last month
- 17