Til Web, Crawls and Archive
Collection
Web text, crawls and archived sources for pretraining corpora. Веб-тексты, обходы сайтов и архивные источники для корпусов предобучения. • 8 items • Updated
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
This dataset is a raw mirror of third-party Kazakh educational websites, collected for non-commercial NLP research (the Til foundation-model program). Access is granted manually. By requesting access you agree to use the data for research purposes only and to respect the original sites' terms.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Web-Raw-KK-v1
Білім беру сайттарының бастапқы веб-айнасы · Исходное зеркало образовательных сайтов · Raw mirror of educational websites
Қазақша
Til-Web-Raw-KK-v1 — қазақ тіліндегі білім беру және сұрақ-жауап сайттарының бастапқы веб-айнасы, көлемі 19.50 ГБ. Репозиторий сервер берген HTML беттерін, суреттерді және жүктелетін тіркемелерді мәтін тазалауға дейінгі күйінде сақтайды.
Құрамы
| Сайт | Беттер | HTML көлемі | Ресурстар |
|---|---|---|---|
bilim-all.kz |
94,777 | 8.2 GB | 25,323 |
surak.baribar.kz |
128,113 | 9.2 GB | 35 |
Әр сайт бумасында HTML айнасының pages.tar.zst архиві, ресурстар архиві, URL тізімі және манифесттер сақталған. HTML файлдарын бастапқы URL мекенжайларымен pages_manifest.jsonl.zst байланыстырады. Бұл құрылым жиналған бетті қайта тексеруге көмектеседі. Материал тіл модельдеріне арналған мәтінді бөлу мен тазалаудың бастапқы көзі ретінде қолданылады.
Қалай жүктеуге болады
from huggingface_hub import snapshot_download
path = snapshot_download(repo_id="TilQazyna/Til-Web-Raw-KK-v1", repo_type="dataset")
print(path)
Жүктеу алдында Hugging Face жүйесінде қолжетімділік мақұлдануы және ортада пайдаланушы токені болуы қажет.
Қолжетімділік
Репозиторий карточкасы мен файл атаулары бәріне көрінеді. Файлдар «Request access» арқылы берілген өтінімді TilQazyna командасы мақұлдағаннан кейін жүктеледі.
Байланысты репозиторийлер
Осы бастапқы айнадан тазартылған мәтін Til-Web-KK жинағында жарияланған.
Русский
Til-Web-Raw-KK-v1 — исходное веб-зеркало казахскоязычных образовательных сайтов и площадок вопросов и ответов, объём — 19.50 ГБ. Репозиторий хранит серверный HTML, изображения и скачиваемые вложения до извлечения и очистки текста.
Что внутри
| Сайт | Страниц | Объём HTML | Ресурсов |
|---|---|---|---|
bilim-all.kz |
94,777 | 8.2 GB | 25,323 |
surak.baribar.kz |
128,113 | 9.2 GB | 35 |
В каталоге каждого сайта лежат архив HTML-зеркала pages.tar.zst, архив ресурсов, список URL и манифесты. Файл pages_manifest.jsonl.zst связывает сохранённые HTML-файлы с исходными адресами. Материал служит источником для последующего извлечения и очистки текста перед обучением языковых моделей.
Как загрузить
from huggingface_hub import snapshot_download
path = snapshot_download(repo_id="TilQazyna/Til-Web-Raw-KK-v1", repo_type="dataset")
print(path)
Для загрузки требуется одобренный доступ и пользовательский токен Hugging Face в среде выполнения.
Доступ
Карточка и имена файлов открыты для просмотра. Команда TilQazyna рассматривает заявки, отправленные через «Request access», и после одобрения разрешает скачивание.
Связанные репозитории
Очищенный текст из этого зеркала опубликован в Til-Web-KK.
English
Til-Web-Raw-KK-v1 is a 19.50 GB raw mirror of Kazakh educational and question-answer websites. It preserves server-rendered HTML, images, and downloadable attachments before text extraction and cleaning.
Contents
| Site | Pages | HTML size | Assets |
|---|---|---|---|
bilim-all.kz |
94,777 | 8.2 GB | 25,323 |
surak.baribar.kz |
128,113 | 9.2 GB | 35 |
Each site directory contains a pages.tar.zst HTML mirror, an asset archive, URL lists, and manifests. The pages_manifest.jsonl.zst file maps saved HTML paths back to their source URLs. This material is intended as input for downstream text extraction and cleaning before language-model training.
Downloading the files
from huggingface_hub import snapshot_download
path = snapshot_download(repo_id="TilQazyna/Til-Web-Raw-KK-v1", repo_type="dataset")
print(path)
The environment must have a Hugging Face user token with approved access before the download can start.
Access
The card and filenames remain visible publicly. The TilQazyna team reviews submissions made through “Request access,” and approved users can then download the repository.
Related repository
Cleaned text derived from this mirror is published in Til-Web-KK.
Лицензия · License: other · TilQazyna
- Downloads last month
- 16