language
string | idx
int64 | premise
string | choice1
string | choice2
string | question_type
string | label
int64 |
---|---|---|---|---|---|---|
id
| 2 |
Kulitnya bentol-bentol.
|
Ia digigit nyamuk.
|
Ia dipatuk ayam.
|
cause
| 0 |
id
| 3 |
Bapak saya masuk angin.
|
Bapak pulang dari salon.
|
Bapak pulang ronda.
|
cause
| 1 |
id
| 4 |
Jari bocah itu sakit.
|
Ia terlalu banyak main enggrang.
|
Ia terlalu banyak main kelereng.
|
cause
| 1 |
id
| 5 |
Dia sedih.
|
Nilai rapornya banyak yang merah.
|
Nilai rapornya banyak yang hijau.
|
cause
| 0 |
id
| 6 |
Ibu itu begitu bahagia.
|
Namanya terpilih di undian arisan.
|
Namanya tidak terpilih di undian arisan.
|
cause
| 0 |
id
| 7 |
Orang itu makan nasi porsi kuli.
|
Orang itu bosan makan nasi.
|
Orang itu belum makan dari kemarin.
|
cause
| 1 |
id
| 8 |
Ia merasa geli.
|
Temannya menggosokkan kemoceng di kakinya.
|
Temannya menggosokkan kentongan di kakinya.
|
cause
| 0 |
id
| 11 |
Gadis itu ikut latihan saman.
|
Ia senang ilmu mistis.
|
Ia senang menari.
|
cause
| 1 |
id
| 12 |
Pemuda itu makan di warteg.
|
Dia sedang ingin makan makanan mewah.
|
Dia sedang berhemat.
|
cause
| 1 |
id
| 13 |
KPR bapak macet.
|
Bapak dipecat dari kantor.
|
Bapak jarang membersihkan rumah.
|
cause
| 0 |
id
| 14 |
Kakak menjuarai lomba gurindam.
|
Kakak sangat perkasa.
|
Kakak sangat kreatif.
|
cause
| 1 |
id
| 15 |
Bapak itu memesan ojek.
|
Dia sangat mengantuk.
|
Dia ingin berangkat ke kantor.
|
cause
| 1 |
id
| 16 |
Ibu kos datang.
|
Ia akan mengadakan lomba memasak.
|
Ia ingin menagih bayaran.
|
cause
| 1 |
id
| 21 |
Wanita itu sangat ingin menjadi artis.
|
Ia menekuni seni melukis dan menggambar.
|
Ia mencoba mengadu nasib dengan mengikuti audisi penyanyi.
|
effect
| 1 |
id
| 22 |
Mahasiswa itu ketahuan titip absen.
|
Mahasiswa itu dikeluarkan dari kampus.
|
Dosennya memberikan nilai F.
|
effect
| 1 |
id
| 24 |
Pak ogah membantu mobilnya putar balik.
|
Ia memberikan pak ogah uang receh.
|
Ia memberikan pak ogah bingkisan parsel.
|
effect
| 0 |
id
| 26 |
Banyak sekali pungli sepanjang perjalanan.
|
Ia jadi jengkel.
|
Perjalanan semakin lancar.
|
effect
| 0 |
id
| 27 |
Ia ingin memberbaharui SIM-C miliknya.
|
Ia datang ke kantor samsat.
|
Ia datang ke toko ponsel.
|
effect
| 0 |
id
| 29 |
Pemuda tersebut berlatih angklung setiap hari.
|
Dia semakin handal bermain musik.
|
Dia semakin handal dalam menyetir mobil.
|
effect
| 0 |
id
| 30 |
Segerombolan pemuda sedang menjelajah Kalimantan.
|
Mereka bertemu harimau liar.
|
Mereka bertemu komodo.
|
effect
| 0 |
id
| 31 |
Saya minum air kobokan.
|
Saya merasa segar.
|
Perut saya sakit.
|
effect
| 1 |
id
| 32 |
Got di komplek perumahaan itu tersumbat.
|
Pak RT menyiramkan cairan pelarut sampah.
|
Pak RT berinisiasi mengadakan kerja bakti.
|
effect
| 1 |
id
| 34 |
Ia didatangi pengamen.
|
Ia memberikan receh ke pengamen itu.
|
Ia memberikan gitar ke pengamen itu.
|
effect
| 0 |
id
| 38 |
Ada kasus demam berdarah di komplek itu.
|
Mereka mengadakan penyemprotan.
|
Mereka memanggil detektif.
|
effect
| 0 |
id
| 39 |
Kakinya terkilir.
|
Ia pergi ke tukang urut.
|
Ia pergi ke tukang bekam.
|
effect
| 0 |
id
| 40 |
Terlihat layang-layang putus.
|
Segerombolan anak-anak berlali kabur dari layang-layang itu.
|
Segerombolan anak-anak mengejar layang-layang itu.
|
effect
| 1 |
id
| 41 |
Alergi kacangnya kumat dan ia gatal-gatal.
|
Ia makan cendol.
|
Ia makan ketoperak.
|
cause
| 1 |
id
| 42 |
Orang itu menangis kepedasan.
|
Ia makan ayam penyet.
|
Ia makan ayam kremes.
|
cause
| 0 |
id
| 43 |
Listrik di rumahnya padam.
|
Ia lupa mengisi ulang token PLN.
|
Ia lupa mengisi ulang token PAM.
|
cause
| 0 |
id
| 44 |
Ia kehabisan tinta kuning.
|
Ia mencetak 1000 selebaran promosi PDIP.
|
Ia mencetak 1000 selebaran promosi Golkar.
|
cause
| 1 |
id
| 45 |
Anak kecil itu menjerit ketakutan.
|
Ia melihat onde-onde.
|
Ia melihat ondel-ondel.
|
cause
| 1 |
id
| 46 |
Bapak itu merantau ke Jakarta.
|
Ia ingin jalan-jalan.
|
Ia ingin mencari penghidupan yang lebih baik.
|
cause
| 1 |
id
| 47 |
Pemuda itu dilarikan ke rumah sakit.
|
Ia minum bir oplosan.
|
Ia minum bir pletok.
|
cause
| 0 |
id
| 51 |
Ibu beli beras ketan.
|
Ibu mau masak kue lumpur.
|
Ibu mau masak kue lemper.
|
cause
| 1 |
id
| 54 |
Bapak itu senang sekali.
|
Ada lemper di kotak makanannya.
|
Ada lipan di kotak makanannya.
|
cause
| 0 |
id
| 55 |
Ia rajin angkat beban.
|
Ia ingin terlihat seperti Ade Rai.
|
Ia ingin terlihat seperti Syahrini.
|
cause
| 0 |
id
| 56 |
Ia pergi ke Soekarno Hatta.
|
Ia ada keperluan di Bandung.
|
Ia ada keperluan di Makassar.
|
cause
| 1 |
id
| 57 |
Anak itu ketakutan.
|
Ia mimpi melihat polri.
|
Ia mimpi melihat pocong.
|
cause
| 1 |
id
| 59 |
Ia berurusan dengan polisi.
|
Ia lupa bawa KK saat berkendara.
|
Ia lupa bawa STNK saat berkendara.
|
cause
| 1 |
id
| 60 |
Pria itu memperbaharui KK miliknya.
|
Ia baru saja lulus kuliah.
|
Ia baru saja menikah.
|
cause
| 1 |
id
| 61 |
Dokternya menyarankannya untuk mengurangi konsumsi karbohidrat.
|
Ia berhenti makan lontong sayur.
|
Ia berhenti makan rujak buah.
|
effect
| 0 |
id
| 64 |
Orang itu sangat mengidolakan Gatot Kaca.
|
Ia jadi rajin pergi ke salon.
|
Ia jadi rajin berolahraga.
|
effect
| 1 |
id
| 65 |
Ia diminta membuat laporan tentang pahlawan nasional.
|
Ia menulis tentang Diponegoro.
|
Ia menulis tentang Martin Luther King Jr.
|
effect
| 0 |
id
| 66 |
Saya tidak sengaja menumpahkan kuah gulai.
|
Bajunya menjadi hijau.
|
Bajunya menjadi kuning.
|
effect
| 1 |
id
| 67 |
Hari ini adalah hari libur Idul Fitri.
|
Orang-orang pergi mudik.
|
Orang-orang beritikaf di masjid.
|
effect
| 0 |
id
| 68 |
Diadakan acara keroncong di kampung.
|
Banyak warga kelaparan.
|
Banyak warga terhibur.
|
effect
| 1 |
id
| 69 |
Kakakku mengidolakan Joko Anwar.
|
Kakakku ingin masuk dunia politik.
|
Kakakku ingin berkarya di dunia film.
|
effect
| 1 |
id
| 70 |
Kakakku mengidolakan Joko Widodo.
|
Kakakku ingin masuk dunia politik.
|
Kakakku ingin berkarya di dunia film.
|
effect
| 0 |
id
| 71 |
Siswa SMA itu ingin sekali melanjutkan pendidikan di ITB.
|
Siswa itu belajar IELTS.
|
Siswa itu mengikuti bimbel.
|
effect
| 1 |
id
| 72 |
Bapak terlalu banyak mengonsumsi Gudang Garam.
|
Bapak sakit paru-paru.
|
Bapak darah tinggi.
|
effect
| 0 |
id
| 75 |
Ia makan es teler setiap hari.
|
Ia diabetes.
|
Ia mabuk.
|
effect
| 0 |
id
| 76 |
Aplikasi QRIS-nya rusak.
|
Ia panggil tukang servis.
|
Ia akhirnya pakai kartu debit.
|
effect
| 1 |
id
| 77 |
Ia ingin mendapatkan kursi DPR.
|
Ia melakukan kampanye besar-besaran.
|
Ia beli kursi di toko furnitur.
|
effect
| 0 |
id
| 78 |
Pemudi itu ingin sekali makan nasi padang.
|
Ia pesan tiket pesawat ke Padang.
|
Ia pesan melalui aplikasi.
|
effect
| 1 |
id
| 81 |
Polisi mengamankan stadion.
|
Ada perseteruan Persija dan Persebaya.
|
Ada perseteruan NU dan Muhammadiyah.
|
cause
| 0 |
id
| 82 |
Mereka sekeluarga sehari-hari makan raskin.
|
Bapaknya seorang pemulung.
|
Bapaknya direktur Telkomsel.
|
cause
| 0 |
id
| 84 |
Laporan BMKG membuat warga panik.
|
Akan terjadi inflasi.
|
Akan terjadi badai.
|
cause
| 1 |
id
| 88 |
Tiba-tiba bapak didatangi rentenir.
|
Foto KTP-nya bocor.
|
Foto ijazahnya bocor.
|
cause
| 0 |
id
| 89 |
Dia dibawa ke rumah sakit.
|
Dia tidak sengaja menelan biji salak.
|
Dia tidak sengaja menelan biji pepaya.
|
cause
| 0 |
id
| 91 |
Anak itu diterima masuk UI.
|
Sekeluarga makan nasi uduk.
|
Sekeluarga makan nasi kuning.
|
effect
| 1 |
id
| 92 |
Ibu belanja di pasar.
|
Ia membayar dengan ApplePay.
|
Ia membayar dengan uang kertas.
|
effect
| 1 |
id
| 93 |
Anak itu ingin merantau.
|
Ibunya membekalinya rendang.
|
Ibunya membekalinya kerupuk.
|
effect
| 0 |
id
| 94 |
Kelakuannya seperti dajjal.
|
Dia banyak dimusuhi orang.
|
Dia banyak teman.
|
effect
| 0 |
id
| 95 |
Orang itu mengalami kecelakaan mobil.
|
Ia dilarikan ke UGD.
|
Ia dilarikan ke puskesmas.
|
effect
| 0 |
id
| 96 |
Ibu menyampurkan gula, garam, dan jeruk di masakannya.
|
Rasa makanannya nano-nano.
|
Rasa makanannya kopiko.
|
effect
| 0 |
id
| 98 |
Saya terlambat masuk kantor.
|
Saya segera naik angkot.
|
Saya segera pesan Gojek.
|
effect
| 1 |
id
| 99 |
Ia suka berjemur.
|
Ia cukup sering main ke Lombok.
|
Ia cukup sering main ke Lembang.
|
effect
| 0 |
id
| 100 |
Ada pesta makan rengginang.
|
Banyak remah-remah di lantai.
|
Mereka ditangkap aparat.
|
effect
| 0 |
id
| 101 |
Ia dikenal sebagai kembang desa.
|
Parasnya begitu cantik.
|
Ia banyak menanam kembang di sekitar rumahnya.
|
cause
| 0 |
id
| 105 |
Jalanan macet.
|
Mahasiswa sedang demo praktikum.
|
Mahasiswa sedang demo.
|
cause
| 1 |
id
| 107 |
Anak itu ingin sekali menuntut ilmu di negeri sakura.
|
Ia pergi ke pengadilan Tokyo.
|
Ia belajar bahasa Jepang.
|
effect
| 1 |
id
| 115 |
Hari minggu pagi warga kompleks berkumpul bersama.
|
Warga kompleks akan nonton pertandingan bola.
|
Warga kompleks akan kerja bakti.
|
cause
| 1 |
id
| 116 |
Murid itu bisa membangun tenda.
|
Murid itu ikut OSIS.
|
Murid itu ikut Pramuka.
|
cause
| 1 |
id
| 117 |
Penonton berjoget bersama di lapangan.
|
Penonton sedang menonton konser dangdut.
|
Penonton sedang menonton konser metal.
|
cause
| 0 |
id
| 119 |
Paman sedang sarungan, kokoan, dan pecian.
|
Paman mau ke masjid.
|
Paman mau pergi memancing.
|
cause
| 0 |
id
| 120 |
Malin kundang jadi batu.
|
Malin kundang mencuri pusaka kerajaan.
|
Malin kundang durhaka ke ibunya.
|
cause
| 1 |
id
| 121 |
Bawang putih disiksa ibunya.
|
Bawang putih hanyalah anak tiri.
|
Bawang putih durhaka ke ibunya.
|
cause
| 0 |
id
| 122 |
Saat lebaran, suasana kota Jakarta sangat sepi.
|
Masyarakat sedang nyepi.
|
Masyarakatnya sedang pulang kampung.
|
cause
| 1 |
id
| 123 |
Laki-laki bugis perlu menabung uang banyak sebelum menikah.
|
Mahar yang diberikan ke keluarga pasangan mahal.
|
Uangnya untuk disedekahkan ke yang membutuhkan.
|
cause
| 0 |
id
| 124 |
Lantai rumah jarang berdebu.
|
Pengunjung lepas sepatu sebelum masuk rumah.
|
Rumah sering ditinggal pemilik.
|
cause
| 0 |
id
| 125 |
Sepupuku pakai jaket di siang hari.
|
Sepupuku sedang sakit flu.
|
Sepupuku takut kulitnya menghitam.
|
cause
| 1 |
id
| 127 |
Kakak sedang membuat sambal terasi.
|
Kakak membuat sambalnya dengan diulek.
|
Kakak membiarkan sambal dan bahan lainnya secara mentah.
|
cause
| 0 |
id
| 128 |
Pelajar jogja dilarang keluar rumah diatas jam 10 malam.
|
Di jogja sering terjadi gempa bumi.
|
Fenomena klitih sedang marak.
|
cause
| 1 |
id
| 129 |
Aku tidak diperbolehkan menonton pertandingan Persib melawan Persija oleh ibu.
|
Kemungkinan pertandingan menjadi tidak seru.
|
Kemungkinan akan terjadi kerusuhan.
|
cause
| 1 |
id
| 130 |
Papa mendapat gaji tambahan di hari raya.
|
Gaji tersebut adalah uang pensiun.
|
Gaji tersebut adalah THR.
|
cause
| 1 |
id
| 133 |
Orang itu suka bersantai pakai kaos dalam dan sarung.
|
Dia dijuluki seperti anak muda.
|
Dia dijuluki seperti bapak-bapak.
|
effect
| 1 |
id
| 134 |
Punggung pakde sedang dikerok.
|
Badan pakde tidak perih lagi.
|
Badan pakde tidak masuk angin lagi.
|
effect
| 1 |
id
| 136 |
Kami menghormati pengorbanan para pahlawan.
|
Kami mengikuti upacara setiap senin.
|
Kami mengikuti aktivitas kemah setiap minggu.
|
effect
| 0 |
id
| 137 |
Hari ini hari raya nyepi di Bali.
|
Jalanan di Bali sepi.
|
Jalanan di Bali ramai.
|
effect
| 0 |
id
| 138 |
Bibi lagi liburan ke Lombok.
|
Bibi mampir ke pantai.
|
Bibi mampir ke tempat ski.
|
effect
| 0 |
id
| 142 |
Adik menyapu lantai tidak bersih.
|
Ibu yang percaya mitos berkata "Nanti suami kamu gembul, lho".
|
Ibu yang percaya mitos berkata, "Nanti suami kamu brewokan, lho".
|
effect
| 1 |
id
| 145 |
Hari ini hari raya kartini.
|
Anak sekolah cewek pakai baju kebaya.
|
Anak sekolah cewek diliburkan.
|
effect
| 0 |
id
| 146 |
Adik yang masih TK akan berangkat ke sekolah.
|
Adik menunggu bis sekolah.
|
Adik mencium tangan orang tua.
|
effect
| 1 |
id
| 148 |
Adik makan ayam tidak pakai nasi.
|
Makanannya serasa tidak kenyang.
|
Makanannya serasa tidak enak.
|
effect
| 0 |
id
| 149 |
Keluarga yang percaya mitos itu punya banyak anak.
|
Keluarga tersebut yakin akan mendapat banyak ilmu.
|
Keluarga tersebut yakin akan mendapat banyak rezeki.
|
effect
| 1 |
id
| 150 |
Warung kami tidak punya uang pecahan.
|
Pakai camilan sebagai pengganti uang pecahan.
|
Pakai permen sebagai pengganti uang pecahan.
|
effect
| 1 |
id
| 151 |
Paman tidak mau diajak ke Malang.
|
Paman tidak tahan dingin.
|
Paman tidak tahan panas.
|
cause
| 0 |
id
| 153 |
Pak Jokowi menjadi lebih dekat dengan masyarakat.
|
Pak Jokowi sering blusukan ke pasar.
|
Pak Jokowi sering tampil di acara TV.
|
cause
| 0 |
id
| 154 |
Cewek itu baru saja makan Seblak.
|
Badannya terasa panas.
|
Badannya terasa capek.
|
cause
| 0 |
id
| 156 |
Setelah upacara, saya minum cendol.
|
Badan saya terasa segar.
|
Badan saya terasa hangat.
|
cause
| 0 |
LoraxBench: A Benchmark for Indonesian Local Languages and Registers
Dataset Summary
LoraxBench is a comprehensive multilingual benchmark focusing on Indonesian and 19 Indonesian local languages, covering 6 diverse NLP tasks. It includes multiple registers for select languages, emphasizing the impact of formal and casual speech on model performance. LoraxBench is professionally translated and validated by natives, and were sourced from Indonesian-originated dataset, Our data is sourced from Indonesian-originated content, thus capturing local nuances better than English-centric data.
LoraxBench fills a critical gap in NLP for Indonesia’s linguistic diversity, where over 700 languages are spoken but few resources exist. Beyond Indonesia, it serves as a valuable resource for modeling challenges common in linguistically rich, resource-scarce regions worldwide.
Languages
The dataset covers the following 20 languages:
Language | ISO Code | Approx. Speakers (millions) | Region |
---|---|---|---|
Acehnese | ace | 3.7 | Aceh |
Ambonese Malay | abs | 0.2 | Ambon |
Balinese | ban | 4.8 | Bali |
Banjar | bjn | 4.0 | South Sulawesi |
Batak Toba | bbc | 2.5 | North Sumatra |
Betawi | bew | 5.6 | Jakarta |
Buginese | bug | 4.3 | South Sulawesi |
Gorontalo | gor | 1.1 | Gorontalo |
Iban | iba | 0.8 | West Kalimantan |
Jambi Malay | jax | 1.0 | Jambi |
Javanese | jv | 91.0 | East/Central Java |
Lampung Nyo | abl | 1.5 | Lampung |
Madurese | mad | 17.0 | East Java |
Makasar | mak | 1.9 | Makasar |
Minangkabau | min | 8.0 | West Sumatra |
Musi | mui | 3.1 | South Sumatra |
Ngaju | nij | 0.9 | Central Kalimantan |
Sasak | sas | 2.6 | West Nusa Tenggara |
Sundanese | su | 32.0 | West Java |
Indonesian | id | > 170.0 | Indonesia |
Registers Included
For three languages, LoraxBench includes two distinct registers capturing different levels of formality:
Language | Formal Register | Casual Register |
---|---|---|
Javanese | Krama | Ngoko |
Sundanese | Lemes | Loma |
Madurese | Engghi Ethen | Enja’Iya |
Formal registers are used in respectful or formal contexts; casual registers are used among peers and friends, showing significant lexical and stylistic differences.
Tasks and Data Sources
The following are tasks covered in LoraxBench
Reading Comprehension
Answering questions based on Indonesian text passages. This data is translated from the TyDi QA secondary, Indonesian subset.
Open-Domain Question Answering
Answering questions without access to context passages. This data is derived from the TyDi QA secondary, Indonesian subset.
Natural Language Inference (NLI)
Determining entailment, contradiction, or neutrality between sentence pairs. This data is translated from the test-expert subset of IndoNLI, specifically on single-sentence sets.
Causal Reasoning
Reasoning about cause-effect relations in text. This data is translated from locally-nuanced causal reasoning data, COPAL-ID. We have filtered some of the entries that are too Jakartan-specific.
Machine Translation
Translating text to Indonesian. This data is taken from IndoNLI premises, which itself originated from various webpages, news, and articles.
Cultural Question Answering
Answering culturally relevant questions about Indonesia. We source this from IndoCulture, with further filtering and clean-up. Specifically, we change some of the distractors that were deemed obviously wrong, fix some typos and writing inconsistencies, as well as remove some trivially easy questions. More on this in the paper.
Personal and Sensitive Information
The corpora contain no personal or sensitive information. Data was sourced and translated with respect to privacy and ethical guidelines.
Additional Information
- LoraxBench exposes challenges for multilingual models in low-resource and register-variant settings.
- Benchmark results highlight performance gaps between Indonesian, local languages, and registers.
Dataset Curators
Google Research
Licensing Information
This project is licensed under the Creative Commons Attribution 4.0 International License (CC BY 4.0).
Citation Information
Please cite the following papers when using this dataset:
- The main LoraxBench paper
- Clark et al., 2020. TyDi QA: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages.
- Mahendra et al., 2021. IndoNLI: A Natural Language Inference Dataset for Indonesian.
- Wibowo et al., 2024. COPAL-ID: Causal Reasoning in Indonesian.
- Koto et al., 2024. IndoCulture: Cultural Question Answering in Indonesia.
- Cahyawijaya et al., 2023. NusaCrowd: Indonesian NLP Dataset Collection.
- Downloads last month
- 36