|
|
--- |
|
|
license: cc0-1.0 |
|
|
language: |
|
|
- ja |
|
|
tags: |
|
|
- OSCAR-2301 |
|
|
--- |
|
|
|
|
|
# 概要 |
|
|
[oscar-corpus/OSCAR-2301](https://huggingface.co/datasets/oscar-corpus/OSCAR-2301)の以下のjaのみを [corpus-cleaner](https://github.com/ce-lery/corpus-cleaner)を使用してデータクリーニングを行なったデーセット群 |
|
|
|
|
|
| Code | Language | # docs | # words | Content Length : | |
|
|
|:-------|:-------------------------|:--------------|:----------------|:-----------------| |
|
|
| ja | Japanese | 94,236,404 | 4,401,059,165 | 181.2 GB | |
|
|
|
|
|
ただし以下のファイルは、クリーニングが成功していないため除外しています。 |
|
|
|
|
|
```json |
|
|
ja_meta_part_117.jsonl |
|
|
ja_meta_part_13.jsonl |
|
|
ja_meta_part_24.jsonl |
|
|
ja_meta_part_4.jsonl |
|
|
ja_meta_part_64.jsonl |
|
|
ja_meta_part_81.jsonl |
|
|
ja_meta_part_82.jsonl |
|
|
``` |
