vlddshk/Syrzyk-Dataset

🇺🇦 SyrzykAI Dataset: Паралельний корпус «Суржик ↔ Літературна українська мова»

---

Опис датасету (Dataset Summary)

Syrzyk Dataset — це ретельно верифікований паралельний корпус речень для задачі нормалізації тексту, виправлення русизмів та автоматичного виправлення суржику на нормативну літературну українську мову.

Датасет створено в рамках проекту SyrzykAI для fine-tuning Seq2Seq моделей (в першу чергу facebook/nllb-200-distilled-600M) та оцінки якості систем корекції тексту за допомогою метрик chrF, CER та WER.

Датасет збережений у високоефективному бінарному форматі Apache Parquet, очищений від дублікатів і шумів, та розбитий на фіксовані вибірки (train / validation / test) із фіксованим seed=42.

---

Структура датасету (Dataset Structure)

Схема колонок (Features)

Назва колонки	Тип даних	Опис	Приклад
syrzyk	string	Вхідне речення/фраза з елементами суржику, калькованими конструкціями чи русизмами	"Я сьогодня випив кофе, но воно було холодне, потому шо я забув його підігріти."
ukrainian	string	Нормативний літературний відповідник українською мовою	"Я сьогодні випив каву, але вона була холодна, бо я забув її підігріти."
source	string	Джерело походження та метод підготовки пари речень	"manual", "synthetic", "hplt_v3_modified"

Статистика сплітів (Data Splits)

Спліт	Кількість пар	Відсоток	Файл	Розмір
train	5,039	80.0%	train.parquet	~400 KB
validation	630	10.0%	validation.parquet	~55 KB
test	630	10.0%	test.parquet	~55 KB
Разом	6,299	100.0%	—	~510 KB

Розподіл здійснено за допомогою train_test_split бібліотеки Hugging Face datasets із перемішуванням (shuffle=True) та зафіксованим генератором випадкових чисел (seed=42).

---

Джерела даних та методологія (Dataset Curation)

Датасет сформовано з комбінації трьох взаємодоповнюючих джерел для забезпечення різноманітності лексичних, граматичних та стилістичних форм:

                  ┌──────────────────────────────────────────────┐
                  │          SyrzykAI Dataset (6,299)            │
                  └──────────────────────┬───────────────────────┘
                                         │
        ┌────────────────────────────────┼────────────────────────────────┐
        │ 50.0%                          │ 28.0%                          │ 22.0%
        ▼                                ▼                                ▼
┌─────────────────┐            ┌───────────────────┐            ┌───────────────────┐
│     manual      │            │ hplt_v3_modified  │            │     synthetic     │
│   (3,147 пар)   │            │    (1,766 пар)    │            │     (1386 пар)    │
│ Власноруч скла- │            │ Корпус HPLT v3    │            │ Згенеровано Kimi  │
│ дені побутові   │            │ + правила заміни  │            │ K2 + ручна вери-  │
│ та розмовні     │            │ + ручна фільтрація│            │ фікація / правки  │
│ речення         │            │                   │            │                   │
└─────────────────┘            └───────────────────┘            └───────────────────┘

1. manual (3,147 пар / 50.0%):
   • Автентичні розмовні конструкції, записані вручну на основі живого мовлення та типових розмовних конструкцій.
   • Охоплює типові сленгові звороти, щоденні діалоги, фразеологічні кальки.
2. hplt_v3_modified (1,766 пар / 28.0%):
   • Відібрані високоякісні нормативні речення з відкритого веб-корпусу HPLT v3 (High-Performance Language Technologies / OPUS).
   • Застосовано лінгвістичний генератор псевдо-суржику (модуль script_for_dataset.py) з підстановкою типових русизмів, після чого виконано ручну перевірку та фільтрацію некоректних пар.
3. synthetic (1,386 пар / 22.0%):
   • Синтетично згенеровані пари за допомогою LLM (Kimi K2) з акцентом на складні синтаксичні русизми, прийменникові конструкції та діловий/публіцистичний суржик.
   • Усі пари пройшли обов'язкову ручну верифікацію та редагування людиною.

---

Лінгвістичне покриття

Датасет покриває ключові типи суржикових помилок та інтерференції:

• Лексичні кальки та русизми: привєт → привіт, получається → виходить, заказ → замовлення, канєшно → звісно / звичайно, даже → навіть, строїти → будувати, підписка → передплата.
• Фонетичні та графічні спотворення: чергування голосних (дєвочка → дівчинка, рєчєння → речення, всє → всі).
• Порушення синтаксичного керування та прийменникові конструкції:
  • по справах замість по ділах
  • двома словами замість в двох словах
  • на тиждень замість на неділю
  • через хворобу замість по хворобі / із-за хвороби
• Неправильні дієслівні форми: дєлати / робить → робити, казав → говорив.

---

Як використовувати (Quickstart)

1. Завантаження через Hugging Face datasets

from datasets import load_dataset

# Завантаження всіх сплітів датасету
dataset = load_dataset("vlddshk/Syrzyk-Dataset")

print(dataset)
# DatasetDict({
#     train: Dataset({
#         features: ['syrzyk', 'ukrainian', 'source'],
#         num_rows: 5039
#     }),
#     validation: Dataset({
#         features: ['syrzyk', 'ukrainian', 'source'],
#         num_rows: 630
#     }),
#     test: Dataset({
#         features: ['syrzyk', 'ukrainian', 'source'],
#         num_rows: 630
#     })
# })

# Приклад перегляду першого запису з train
sample = dataset["train"][0]
print(f"Суржик:      {sample['syrzyk']}")
print(f"Українська:  {sample['ukrainian']}")
print(f"Джерело:     {sample['source']}")

2. Завантаження окремого спліту або через Pandas

import pandas as pd

# Читання Parquet файлу безпосередньо
df_train = pd.read_parquet("https://huggingface.co/datasets/vlddshk/Syrzyk-Dataset/resolve/main/train.parquet")
print(df_train.head())

3. Токенізація для Seq2Seq моделей (NLLB-200 / mT5)

from transformers import AutoTokenizer

model_name = "facebook/nllb-200-distilled-600M"
tokenizer = AutoTokenizer.from_pretrained(model_name, src_lang="ukr_Cyrl", tgt_lang="ukr_Cyrl")

def preprocess_function(examples):
    inputs = examples["syrzyk"]
    targets = examples["ukrainian"]
    model_inputs = tokenizer(inputs, text_target=targets, max_length=128, truncation=True)
    return model_inputs

tokenized_dataset = dataset.map(preprocess_function, batched=True)

---

Цільові задачі та призначення (Supported Tasks)

• translation / text2text-generation: переклад із суржику на літературну українську.
• grammatical-error-correction: виправлення граматичних, орфографічних і лексичних помилок інтерференції.
• text-normalization: нормалізація неформального або змішаного веб-контенту / субтитрів / чат-повідомлень.

---

⚠️ Обмеження та особливості (Limitations & Biases)

• Обсяг вибірки (v3.0): Датасет містить 6,299 ретельно відібраних прикладів. Це якісний seed-датасет для fine-tuning та бенчмаркінгу, але для більшого покриття всіх регіональних діалектів планується розширення корпусу до 10k прикладів.
• Регіональна варіативність: Суржик не є уніфікованою мовою — у різних регіонах (наприклад, Слобожанщина vs. Полісся vs. Південь) ступінь і характер русизмів відрізняються.
• Відсутність нецензурної лексики: Корпус пройшов базову санітизацію та орієнтований на загальновживану, публіцистичну та щоденну розмовну лексику.

---

Ліцензія (License)

Датасет поширюється за відкритою ліцензією Creative Commons Attribution 4.0 International (CC BY 4.0).

Ви можете вільно:

• Ділитися (копіювати і розповсюджувати матеріал на будь-якому носії чи у будь-якому форматі).
• Адаптувати (робити ремікси, трансформувати та брати за основу матеріал для будь-яких цілей, навіть комерційних), за умови зазначення авторства та збереження посилання на оригінальний репозиторій.

---

Цитування (Citation)

Якщо ви використовуєте SyrzykAI Dataset у своїх наукових дослідженнях, програмних продуктах або статтях, будь ласка, використовуйте наступний BibTeX:

@misc{syrzyk_ai_2026,
  title={SyrzykAI: Parallel Surzhyk-to-Ukrainian Dataset for Text Normalization and Neural Machine Translation},
  author={vlddshk},
  year={2026},
  publisher={Hugging Face},
  howpublished={\url{https://huggingface.co/datasets/vlddshk/syrzyk-dataset}},
  license={CC-BY-4.0}
}

---

Зв'язок та внесок (Contributions)

Бажаєте додати нові пари речень, виправити помилку або запропонувати покращення?

• Відкривайте Discussions / Pull Requests на Hugging Face або GitHub!
• Проект розробляється як частина відкритої ініціативи з очищення та підтримки української мови у сфері NLP.

Version History

• v3.0 (August 2026): Added 852 new pairs (Total: 6,299).
• v2.0 (August 2026): Added 1,088 new pairs (Total: 5,447).
• v1.0 (August 2026): Initial release (4,359 pairs).