Til 256k Research Ladder
Collection
Linked pretraining, SFT and GEC artifacts for the exp080–exp085 sequence. Связанные артефакты предобучения, SFT и GEC для цепочки exp080–exp085. • 6 items • Updated
Datasets:
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Til-Qazyna kk corpus. Request access for research/non-commercial use.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Corpus-exp078
Қазақ тілі басым оқыту корпусы · Корпус для обучения с преобладанием казахского языка · Kazakh-dominant training corpus
Қазақша
Til-Corpus-exp078 — тілдік модельдерді алдын ала оқытуға дайындалған, қазақ тілі басым корпус. Репозиторий көлемі — 139.07 ГБ; оқытуға дайын бөлігінде 32.9M жол және Til-Tokenizer-128k бойынша 7.21B токен бар.
Құрамы
Дерек сапасы оқу соңына қарай арта түсетін ретпен жиналған. Жаттықтырушы алдымен bulk.jsonl, кейін anneal.jsonl файлын жаһандық араластырусыз оқуы керек.
| Бөлік | Жол | Токен | Сапа деңгейі | Оқу реті |
|---|---|---|---|---|
bulk.jsonl |
15.69M | 4.83B | q4 | алдымен |
anneal.jsonl |
17.23M | 2.38B | q5 | соңында |
final_ground, final_ground2, final_ground3 және final_ground4 каталогтарында қазақша төл мәтіндерге сүйенген anti-calque тапсырмалары сақталған. Олардың жиынтық көлемі — 13.7M мысал және 1.47B токен. final каталогында қазақ, орыс, ағылшын мәтіндері, код пен математика материалдарының қайта бағаланған нұсқалары бар.
Қалай жүктеуге болады
from huggingface_hub import hf_hub_download
manifest = hf_hub_download(
repo_id="TilQazyna/Til-Corpus-exp078",
repo_type="dataset",
filename="composed/dataset_manifest.json",
)
print(manifest)
Қолжетімділік
Карточка мен файлдар тізімі ашық көрінеді, ал файлдарды жүктеу үшін репозиторий бетіндегі «Request access» батырмасы арқылы өтінім беру қажет. Өтінімді TilQazyna командасы қарайды.
Байланысты репозиторий
Бұл жинақ Til-Corpus корпусын құрастыруға қатысады.
Русский
Til-Corpus-exp078 — корпус с преобладанием казахского языка, подготовленный для предобучения языковых моделей. Репозиторий занимает 139.07 ГБ; готовая к обучению часть содержит 32.9M строк и 7.21B токенов по Til-Tokenizer-128k.
Что внутри
Материалы расположены так, чтобы качество росло к концу обучения. Тренер читает сначала bulk.jsonl, затем anneal.jsonl, без глобального перемешивания.
| Часть | Строк | Токенов | Уровень качества | Порядок чтения |
|---|---|---|---|---|
bulk.jsonl |
15.69M | 4.83B | q4 | сначала |
anneal.jsonl |
17.23M | 2.38B | q5 | в конце |
Каталоги final_ground, final_ground2, final_ground3 и final_ground4 хранят anti-calque задания на основе естественных казахских текстов. Вместе в них 13.7M примеров и 1.47B токенов. В каталоге final лежат повторно оценённые материалы на казахском, русском и английском языках, а также код и математика.
Как загрузить
from huggingface_hub import hf_hub_download
manifest = hf_hub_download(
repo_id="TilQazyna/Til-Corpus-exp078",
repo_type="dataset",
filename="composed/dataset_manifest.json",
)
print(manifest)
Доступ
Карточка и перечень файлов видны всем. Скачивание открывается после одобрения заявки, отправленной кнопкой «Request access»; её рассматривает команда TilQazyna.
Связанный репозиторий
Эта сборка входит в подготовку корпуса Til-Corpus.
English
Til-Corpus-exp078 is a Kazakh-dominant corpus prepared for language-model pretraining. The repository occupies 139.07 GB; its training-ready portion contains 32.9M rows and 7.21B tokens measured with Til-Tokenizer-128k.
Contents
The material is ordered so that quality rises toward the end of training. A trainer reads bulk.jsonl first and anneal.jsonl afterward, with no global shuffle.
| Part | Rows | Tokens | Quality tier | Read order |
|---|---|---|---|---|
bulk.jsonl |
15.69M | 4.83B | q4 | first |
anneal.jsonl |
17.23M | 2.38B | q5 | last |
The final_ground, final_ground2, final_ground3, and final_ground4 directories hold anti-calque tasks grounded in native Kazakh passages. Together they contain 13.7M examples and 1.47B tokens. The final directory carries regraded Kazakh, Russian, and English material alongside code and mathematics data.
Manifest and composition-statistics files document the assembled training sequence and make its ordering inspectable before a run.
Loading
from huggingface_hub import hf_hub_download
manifest = hf_hub_download(
repo_id="TilQazyna/Til-Corpus-exp078",
repo_type="dataset",
filename="composed/dataset_manifest.json",
)
print(manifest)
Access
The card and file listing are public. File downloads require approval after submitting the “Request access” form on the repository page; the TilQazyna team reviews each request.
Related repository
This build contributes to the preparation of Til-Corpus.
Лицензия · License: cc-by-4.0 · TilQazyna
- Downloads last month
- 23