tokenization_robustness_completion
Collection
2 items
•
Updated
Datasets:
Dataset Viewer
question
stringlengths 6
89
| choices
listlengths 4
4
| answer
int64 0
3
| answer_label
stringclasses 4
values | split
stringclasses 1
value | subcategories
stringclasses 1
value | lang
stringclasses 1
value | second_lang
stringclasses 1
value | coding_lang
stringclasses 1
value | notes
stringlengths 12
74
| id
stringlengths 0
7
| set_id
float64 300
344
| variation_id
float64 1
1
|
|---|---|---|---|---|---|---|---|---|---|---|---|---|
دکتر احمدی یک جراح است. شغل آقای احمدی
|
[
"معلم است",
"وکیل است",
"قاضی است",
"پزشک است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
Dr Ahmadi is a Doctor. Occupation of Dr Ahmadi is
|
300
| 300 | 1 |
||
رنگ آسمان
|
[
"آبی است",
"قرمز است",
"سبز است",
"زرد است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The color of the sky is
| 301 | 1 |
|||
این خانه ۲٫۸۵۰٫۰۰۰٫۰۰۰ تومان است. قیمت این خانه
|
[
"۳٫۰۰۰٫۰۰۰٫۰۰۰ تومان است",
"۲٫۰۵۰٫۰۰۰٫۰۰۰ تومان است",
"۳٫۸۵۰٫۰۰۰٫۰۰۰ تومان است",
"۲٫۸۵۰٫۰۰۰٫۰۰۰ تومان است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The price of this house is 2,850,000,000 Toman. The cost of this house is
| 302 | 1 |
|||
امروز تاریخ ۱۴۰۳/۰۸/۱۵ است. امروز
|
[
"۱۴۰۳/۰۸/۱۶ است",
"۱۴۰۲/۰۸/۱۵ است",
"۱۴۰۳/۰۷/۱۵ است",
"۱۴۰۳/۰۸/۱۵ است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
Today's date is 15/8/1403 (in Persian Calendar). Today's date is
| 303 | 1 |
|||
تعداد قاره های روی زمین
|
[
"۵ است",
"۶ است",
"۷ است",
"۸ است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The number of continents on Earth is
| 304 | 1 |
|||
پایتخت ایران
|
[
"تهران است",
"مشهد است",
"پاریس است",
"بغداد است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The capital city of Iran is
| 305 | 1 |
|||
هر هفته
|
[
"۵ روز است",
"۶ روز است",
"۷ روز است",
"۸ روز است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The number of days in a week is
| 306 | 1 |
|||
هر روز
|
[
"۲۰ ساعت است",
"۲۵ ساعت است",
"۲۴ ساعت است",
"۳۰ ساعت است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The number of hours in a day is
| 307 | 1 |
|||
تعداد پاهای یک گاو
|
[
"۴ است",
"۲۰ است",
"۳ است",
"۵ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The number of legs a cow has is
| 308 | 1 |
|||
تعداد دقیقه های دو ساعت
|
[
"۱۲۰ است",
"۱۰۰ است",
"۱۴۰ است",
"۹۰ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The number of minutes in 2 hours is
| 309 | 1 |
|||
تعداد ماه های یک سال
|
[
"۱۲ است",
"۱۰ است",
"۱۱ است",
"۱۳ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The number of months in a year is
| 310 | 1 |
|||
تعداد ثانیه های یک دقیقه
|
[
"۵۰ است",
"۱۰۰ است",
"۳۰ است",
"۶۰ است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The number of seconds in a minute is
| 311 | 1 |
|||
تعداد ضلع های شش ضلعی
|
[
"۶ است",
"۵ است",
"۷ است",
"۸ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The number of sides a hexagon has is
| 312 | 1 |
|||
تعداد ضلع های مثلث
|
[
"۳ است",
"۲ است",
"۴ است",
"۵ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The number of sides a triangle has is
| 313 | 1 |
|||
در جمله «من در دیوار کار می‌کنم»، «دیوار» یک
|
[
"شخص است",
"شئ است",
"شهر است",
"شرکت است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
In \"I work at Divar\", Divar is a
| 314 | 1 |
|||
در جمله «من در ایران خودرو کار می‌کنم»، «ایران خودرو» یک
|
[
"کشور است",
"شئ است",
"شرکت است",
"شهر است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
In \"I work at Iran Khodro\", Iran Khodro is a
| 315 | 1 |
|||
در جمله «اسنپ به‌روزرسانی جدیدی منتشر کرد»، «اسنپ» یک
|
[
"شخص است",
"صفت است",
"تاریخ است",
"شرکت است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
In \"Snapp released a new update\", Snapp is a
| 316 | 1 |
|||
در جمله «گربه روی فرش نشست»، فاعل
|
[
"نشست است",
"فرش است",
"گربه است",
"روی است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
In \"The cat sat on the mat\", the subject is
| 317 | 1 |
|||
احساس «من عاشق این محصول شگفت‌انگیزم!»
|
[
"منفی است",
"خنثی است",
"مثبت است",
"مختلط است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The feeling shown in \"I love this amazing product!\" is
| 318 | 1 |
|||
احساس جمله ی «غذا عالی بود اما سرویس افتضاح بود.»
|
[
"مثبت است",
"مختلط است",
"منفی است",
"خنثی است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The feeling shown in \"The food was great but the service was awful.\" is
| 319 | 1 |
|||
احساس «سرویس خوب بود، چیز خاصی نبود.»
|
[
"مثبت است",
"منفی است",
"خنثی است",
"مختلط است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The feeling shown in \"The service was okay, nothing special.\" is
| 320 | 1 |
|||
احساس «این فیلم افتضاح و خسته‌کننده بود.»
|
[
"مثبت است",
"خنثی است",
"منفی است",
"مختلط است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The feeling shown in \"This movie was terrible and boring.\" is
| 321 | 1 |
|||
گازی که انسان‌ها برای زنده ماندن نیاز دارند
|
[
"اکسیژن است",
"نیتروژن است",
"دی اکسید کربن است",
"هیدروژن است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The gas humans need to breathe to live is
| 322 | 1 |
|||
حاصل ۱۰ درصد ۱۰۰
|
[
"۱۰ است",
"۵ است",
"۱۵ است",
"۲۰ است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
10% of 100 is
| 323 | 1 |
|||
حاصل ۲۵ درصد ۸۰
|
[
"۱۵ است",
"۲۰ است",
"۲۵ است",
"۳۰ است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
25% of 80 is
| 324 | 1 |
|||
حاصل ۵۰ درصد ۶۰
|
[
"۲۵ است",
"۳۵ است",
"۴۰ است",
"۳۰ است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
50% of 60 is
| 325 | 1 |
|||
پایتخت چاد
|
[
"موندو است",
"انجامنا است",
"آبشه است",
"نگاما است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
Chad's capital is
| 326 | 1 |
|||
پایتخت فرانسه
|
[
"لندن است",
"پاریس است",
"برلین است",
"رم است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The capital of France is
| 327 | 1 |
|||
پایتخت ژاپن
|
[
"کیوتو است",
"اوزاکا است",
"توکیو است",
"هیروشیما است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The capital of Japan is
| 328 | 1 |
|||
پایتخت ترکیه
|
[
"استانبول است",
"آنکارا است",
"ازمیر است",
"بورسا است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The capital of Turkey is
| 329 | 1 |
|||
فرمول شیمیایی آب
|
[
"CO2 است",
"NaCl است",
"O2 است",
"H2O است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The chemical formula for water is
| 330 | 1 |
|||
قصد این جمله «مغازه ساعت چند تعطیل می‌شود؟»
|
[
"خرید کردن است",
"وقت ملاقات گرفتن است",
"ثبت شکایت است",
"اطلاعات گرفتن است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The intent in \"What time does the store close?\" is
| 331 | 1 |
|||
بزرگترین پستاندار جهان
|
[
"فیل است",
"زرافه است",
"وال آبی است",
"اسب آبی است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The largest mammal in the world is
| 332 | 1 |
|||
واحد اندازه‌گیری دما در سیستم بین‌المللی
|
[
"کلوین است",
"سلسیوس است",
"فارنهایت است",
"رانکین است"
] | 0 |
A
|
test
|
Cannonical
|
pes_Arab
|
The unit of measurement for temperature in the International System is
| 333 | 1 |
|||
ناسا آژانس فضایی
|
[
"روسیه است",
"ایات متحده آمریکا است",
"چین است",
"ژاپن است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The country whose space agency is NASA is
| 334 | 1 |
|||
در برزیل به زبان
|
[
"اسپانیایی صحبت می شود",
"پرتغالی صحبت می شود",
"فرانسوی صحبت می شود",
"ایتالیایی صحبت می شود"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The language spoken in Brazil is
|
335-1.0
| 335 | 1 |
||
نماد شیمیایی 'Fe' نماد فلز
|
[
"مس است",
"زینک است",
"آهن است",
"آلومینیوم است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The metal with chemical symbol 'Fe' is
|
336-1.0
| 336 | 1 |
||
عضوی که در بدن انسان خون را پمپ می‌کند
|
[
"کبد است",
"شش است",
"کلیه است",
"قلب است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The organ in the human body that pumps blood is
|
337-1.0
| 337 | 1 |
||
نزدیک ترین سیاره به خورشید در منظومه شمسی، سیاره ی
|
[
"زهره است",
"مریخ است",
"زمین است",
"عطارد است"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
The planet closest to the Sun in our solar system is
|
338-1.0
| 338 | 1 |
||
بزرگترین سیاره ی منظومه شمسی
|
[
"زمین است",
"مشتری است",
"زحل است",
"مریخ است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The largest planet in the Solar System is
|
339-1.0
| 339 | 1 |
||
فرآیندی که به گیاهان اجازه می‌دهد با استفاده از نور خورشید غذای خود را تولید کنند، فرآیند
|
[
"تنفس است",
"فتوسنتز است",
"هضم است",
"تخمیر است"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
The process that allows plants to produce their own food using sunlight is
|
340-1.0
| 340 | 1 |
||
نویسنده ی نمایشنامه «رومئو و ژولیت»
|
[
"چارلز دیکنز است",
"مارک توآین است",
"ویلیام شکسپیر است",
"جین آستین است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
The author who wrote the play \"Romeo and Juliet\" is
|
341-1.0
| 341 | 1 |
||
زنبورها
|
[
"شیر تولید می کنند",
"ابریشم تولید می کنند",
"موم تولید می کنند",
"عسل تولید می کنند"
] | 3 |
D
|
test
|
Cannonical
|
pes_Arab
|
What bees produce is
|
342-1.0
| 342 | 1 |
||
گیاهان برای تولید غذا به
|
[
"نیتروژن نیاز دارند",
"دی اکسید کربن نیاز دارند",
"هیدروژن نیاز دارند",
"هلیوم نیاز دارند"
] | 1 |
B
|
test
|
Cannonical
|
pes_Arab
|
What plants need from the air to make food is
|
343-1.0
| 343 | 1 |
||
قصد شخص از جمله «می‌توانید لطفاً یک پرواز به پاریس رزرو کنید؟»
|
[
"اطلاعات گرفتن است",
"شکایت کردن است",
"رزرو کردن است",
"کنسل کردن است"
] | 2 |
C
|
test
|
Cannonical
|
pes_Arab
|
In \"Can you please book a flight to Paris?\", the person wants
|
344-1.0
| 344 | 1 |
Dataset Card for Tokenization Robustness
A comprehensive evaluation dataset for testing robustness of different tokenization strategies.
Dataset Details
Dataset Description
This dataset evaluates how robust language models are to different tokenization strategies and edge cases. It includes text completion questions with multiple choice answers designed to test various aspects of tokenization handling.
- Curated by: R3
- Funded by [optional]: [More Information Needed]
- Shared by [optional]: [More Information Needed]
- Language(s) (NLP): [More Information Needed]
- License: cc
Dataset Sources [optional]
- Repository: [More Information Needed]
- Paper [optional]: [More Information Needed]
- Demo [optional]: [More Information Needed]
Uses
Direct Use
[More Information Needed]
Out-of-Scope Use
[More Information Needed]
Dataset Structure
The dataset contains multiple-choice questions with associated metadata about tokenization types and categories.
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Data Collection and Processing
[More Information Needed]
Who are the source data producers?
[More Information Needed]
Annotations [optional]
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Bias, Risks, and Limitations
The dataset focuses primarily on English text and may not generalize to other languages or tokenization schemes not covered in the evaluation.
Recommendations
Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.
Citation [optional]
BibTeX:
[More Information Needed]
APA:
[More Information Needed]
Glossary [optional]
[More Information Needed]
More Information [optional]
[More Information Needed]
Dataset Card Authors [optional]
[More Information Needed]
Dataset Card Contact
[More Information Needed]
- Downloads last month
- 43
Size of downloaded dataset files:
77.4 kB
Size of the auto-converted Parquet files:
77.4 kB
Number of rows:
360