README.md

---
license: cc0-1.0
language:
- ja
tags:
- OSCAR-2301
---

# 概要
[oscar-corpus/OSCAR-2301](https://huggingface.co/datasets/oscar-corpus/OSCAR-2301)の以下のjaのみを [corpus-cleaner](https://github.com/ce-lery/corpus-cleaner)を使用してデータクリーニングを行なったデーセット群

| Code   | Language                 | # docs        | # words         | Content Length :  |
|:-------|:-------------------------|:--------------|:----------------|:-----------------|
| ja     | Japanese                 | 94,236,404    | 4,401,059,165   | 181.2 GB         |

ただし以下のファイルは、クリーニングが成功していないため除外しています。

```json
ja_meta_part_117.jsonl
ja_meta_part_13.jsonl
ja_meta_part_24.jsonl
ja_meta_part_4.jsonl
ja_meta_part_64.jsonl
ja_meta_part_81.jsonl
ja_meta_part_82.jsonl
```