metadata

task_categories:
  - text2text-generation
language:
  - ja
tags:
  - ime
  - japanese input
  - kana-kanji conversion
pretty_name: zenz-v2.5-dataset
size_categories:
  - 100M<n<1B

zenz-v2.5-dataset

zenz-v2.5-datasetはかな漢字変換タスクに特化した条件付き言語モデル「zenz-v2.5」シリーズの学習を目的として構築したデータセットです。

約190Mペアの「左文脈-入力-変換結果」を含み、かな漢字変換モデルの学習において十分な性能を実現できる規模になっています。

本データセットで学習したzenz-v2.5は公開しています。

zenz-v2.5-medium: 310Mの大規模モデル
zenz-v2.5-small: 91Mの中規模モデル
zenz-v2.5-xsmall: 26Mの小規模モデル

また、かな漢字変換の評価ベンチマークとしてAJIMEE-Bench（味見ベンチ）も公開しています。

形式

本データセットはJSONL形式になっており、以下の3つのデータを含みます。

"input": str, 入力のカタカナ文字列（記号、数字、空白などが含まれることがあります）
"output": str, 出力の漢字交じり文
"left_context": Optional[str], 左文脈の漢字交じり文（nullの場合があります）

ライセンス

以下に断りのないファイルはCC BY-SA 4.0ライセンスで利用できます。

Wikipedia Subset

本データセットのうち、train_wikipedia.jsonlのデータは2024年2月に取得したWikipedia日本語版アーカイブをベースに構築したものであり、CC BY-SA 4.0ライセンスで利用できます。

llm-jp-corpus-v3 Subset

本データセットのうち、train_llm-jp-corpus-v3.jsonlのデータはllm-jp-corpus-v3のうちCommon Crawlに由来するja/ja_cc/level0/CC-MAIN-2023-40.jsonl.gzをベースに構築したものです。 Common Crawlのライセンスに基づき、ODC-BY およびCommon Crawl terms of use のもとで利用できます。

注意点

本データセットはかな漢字変換のためのデータセットとして構築したものであり、これ以外の用途ではそぐわない可能性があります。

かな漢字変換では読み推定の誤りが大きく性能を損なうことが少ないため、その正確性を重視していません。このため、読み推定の教師データセットとして取り扱おうとする場合、モデルの性能に寄与しない可能性が高いです。
「入力」の多様性に対応するため、「日本」を「ニホン」「ニッポン」と揺らすような読み揺らし処理を構築時に適用しています。
「入力」として数値や記号類を含めることを想定しているため、一部の「入力」ではそのような記号が含まれています。

謝辞

本データセットの構築にあたり、独立行政法人情報処理推進機構 (IPA) 2024 年度未踏 IT 人材発掘・育成事業の支援を受けました。深く感謝します。

また、以下のライブラリやツール、言語資源を活用して本データセットを構築しました。

llm-jp-corpus-v3 (https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v3)
MeCab (https://taku910.github.io/mecab/)
ipadic-NEologd (https://github.com/neologd/mecab-ipadic-neologd)
jaconv (https://pypi.org/project/jaconv/)
Wikipedia日本語版アーカイブデータ (https://dumps.wikimedia.org/jawiki/latest/)