|
--- |
|
dataset_info: |
|
features: |
|
- name: text |
|
dtype: string |
|
splits: |
|
- name: train |
|
num_bytes: 764109582 |
|
num_examples: 1017002 |
|
download_size: 429958219 |
|
dataset_size: 764109582 |
|
configs: |
|
- config_name: default |
|
data_files: |
|
- split: train |
|
path: data/train-* |
|
--- |
|
|
|
|
|
原始数据来源为 [roneneldan/TinyStories](https://huggingface.co/datasets/roneneldan/TinyStories) |
|
|
|
原工作探索的问题是语言模型（LM）在文本连贯性上的表现。像早期的一些语言模型如 GPT-2，即使在一些 Common Craw 这样的语料库上大量预训练后，也很难生成长的、连贯的文本。比如前几年有一种 AI 玩具类型是做文本续写，例如彩云小梦，可以写写作文、小说什么的，如果大家玩过就知道效果其实一言难尽，和今天的大模型完全没法比，其实这就是 GPT-2 level 的续写能力。 |
|
|
|
作者就在想，会不会是因为训练的语料库太多、太宽泛，需要学习各种语法元素、词汇、知识、推理等等，才导致小语言模型（SLM）没法有一个很好的表现。作者决定专注于一个任务——短篇故事续写，来探索一下 LM 的性能边界。 |
|
|
|
作者用 GPT-4 和 GPT-3.5 构建了一个英文短篇小说数据集 TinyStories，将内容限制在三四岁儿童也能轻松理解的程度，并且使用不同的关键词来让故事的主题足够丰富。此外，他们还加入了额外的关键词，来控制故事有更曲折的走向、不同的结局等等。 |
|
|
|
中文翻译数据来源为 [52AI/TinyStoriesZh](https://huggingface.co/datasets/52AI/TinyStoriesZh) |
|
|
|
本仓库将 [52AI/TinyStoriesZh](https://huggingface.co/datasets/52AI/TinyStoriesZh) 的 `TinyStories_all_data_zh_1M.tar.gz` 数据整理为和原始 [roneneldan/TinyStories](https://huggingface.co/datasets/roneneldan/TinyStories) 一样的 jsonl 数据格式 |
