Данные предназначены для обучения и файнтюнинга больших языковых моделей (LLM), помогая им лучше понимать русскоязычный интернет-фольклор, сленг, мемы и исторический контекст субкультур.

Количество статей: 48 234 статьи
Формат: JSON Lines (.jsonl), где каждая строка содержит:
- pageid (int): уникальный идентификатор страницы в MediaWiki
- title (string): название статьи
- text (string): очищенный структурированный текст статьи в формате Markdown
Размер данных: ~1.49 ГБ чистого текста
Лицензия: CC BY-SA 4.0 (согласно правилам Neolurk/MediaWiki)

Очистка данных

При парсинге были удалены все нетекстовые и служебные элементы сайта:

Ссылки на редактирование страниц [править]
Таблицы содержания (TOC)
Инфобоксы (справа от текста)
Навигационные шаблоны
Шаблоны предупреждений
Ссылки на примечания и сноски
Картинки, галереи и видеоролики

Сохранены заголовки разделов (#, ##), цитаты (>) и маркированные списки (-).

Downloads last month: 49

Total file size:

1.56 GB