Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -20,4 +20,81 @@ configs:
|
|
| 20 |
data_files:
|
| 21 |
- split: train
|
| 22 |
path: data/train-*
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 23 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 20 |
data_files:
|
| 21 |
- split: train
|
| 22 |
path: data/train-*
|
| 23 |
+
license: cc0-1.0
|
| 24 |
+
task_categories:
|
| 25 |
+
- text-generation
|
| 26 |
+
language:
|
| 27 |
+
- th
|
| 28 |
---
|
| 29 |
+
# ThaiGov V2 Corpus
|
| 30 |
+
|
| 31 |
+
GitHub: [https://github.com/PyThaiNLP/thaigov-v2-corpus](https://github.com/PyThaiNLP/thaigov-v2-corpus)
|
| 32 |
+
|
| 33 |
+
## English
|
| 34 |
+
- Data from Thai government website. https://www.thaigov.go.th
|
| 35 |
+
- This part of PyThaiNLP Project.
|
| 36 |
+
- Compiled by Mr.Wannaphong Phatthiyaphaibun
|
| 37 |
+
- License Dataset is public domain.
|
| 38 |
+
|
| 39 |
+
## Data format
|
| 40 |
+
|
| 41 |
+
- 1 file, 1 news, which is extracted from 1 url.
|
| 42 |
+
|
| 43 |
+
```
|
| 44 |
+
topic
|
| 45 |
+
(Blank line)
|
| 46 |
+
content
|
| 47 |
+
content
|
| 48 |
+
content
|
| 49 |
+
content
|
| 50 |
+
content
|
| 51 |
+
(Blank line)
|
| 52 |
+
ที่มา (URL source) : http://www.thaigov.go.th/news/contents/details/NNN
|
| 53 |
+
```
|
| 54 |
+
|
| 55 |
+
## Thai
|
| 56 |
+
- เป็นข้อมูลที่รวบรวมข่าวสารจากเว็บไซต์รัฐบาลไทย https://www.thaigov.go.th
|
| 57 |
+
- โครงการนี้เป็นส่วนหนึ่งในแผนพัฒนา [PyThaiNLP](https://github.com/PyThaiNLP/)
|
| 58 |
+
- รวบรวมโดย นาย วรรณพงษ์ ภัททิยไพบูลย์
|
| 59 |
+
- ข้อมูลที่รวบรวมในคลังข้อความนี้เป็นสาธารณสมบัติ (public domain) ตามพ.ร.บ.ลิขสิทธิ์ พ.ศ. 2537 มาตรา 7 (สิ่งต่อไปนี้ไม่ถือว่าเป็นงานอันมีลิขสิทธิ์ตามพระราชบัญญัตินี้ (1) ข่าวประจำวัน และข้อเท็จจริงต่างๆ ที่มีลักษณะเป็นเพียงข่าวสารอันมิใช่งานในแผนกวรรณคดี แผนกวิทยาศาสตร์ หรือแผนกศิลปะ [...] (3) ระเบียบ ข้อบังคับ ประกาศ คำสั่ง คำชี้แจง และหนังสือตอบโต้ของกระทรวง ทบวง กรม หรือหน่วยงานอื่นใดของรัฐหรือของท้องถิ่น [...])
|
| 60 |
+
|
| 61 |
+
**สามารถติดตามประวัติการแก้ไขคลังข้อความนี้ได้ผ่านระบบ Git**
|
| 62 |
+
|
| 63 |
+
### จำนวนข่าว
|
| 64 |
+
|
| 65 |
+
- วันเริ่มต้นโครงการ 17 ก.ย. 2563
|
| 66 |
+
|
| 67 |
+
### รูปแบบข้อมูล
|
| 68 |
+
|
| 69 |
+
- 1 ไฟล์ 1 ข่าว ซึ่งดึงมาจาก 1 url
|
| 70 |
+
|
| 71 |
+
```
|
| 72 |
+
หัวเรื่อง
|
| 73 |
+
(บรรทัดว่าง)
|
| 74 |
+
เนื้อความ
|
| 75 |
+
เนื้อความ
|
| 76 |
+
เนื้อความ
|
| 77 |
+
เนื้อความ
|
| 78 |
+
เนื้อความ
|
| 79 |
+
(บรรทัดว่าง)
|
| 80 |
+
ที่มา : http://www.thaigov.go.th/news/contents/details/NNN
|
| 81 |
+
```
|
| 82 |
+
|
| 83 |
+
### รายละเอียดชื่อไฟล์
|
| 84 |
+
|
| 85 |
+
- ชื่อหมวดหมู่_จำนวนที่ของข่าว.txt
|
| 86 |
+
|
| 87 |
+
### Script
|
| 88 |
+
|
| 89 |
+
- run.py สำหรับเก็บข้อมูลจากหน้าเว็บ โดยจะดึงหน้าเว็บจาก url ```http://www.thaigov.go.th/news/contents/details/NNN``` โดยที่ NNN คือเลขจำนวนเต็ม
|
| 90 |
+
- เปลี่ยนค่าตัวแปร i ในไฟล์เป็นเลขที่ต้องการเริ่มเก็บ
|
| 91 |
+
- clean.py สำหรับทำความสะอาดข้อมูลเบื้องต้น โดยจะลบช่องว่างหน้าและท้ายบรรทัด ลบบรรทัดว่าง
|
| 92 |
+
- ```clean.py ชื่อไฟล์```
|
| 93 |
+
- ```clean.py ชื่อไฟล์1 ชื่อไฟล์2```
|
| 94 |
+
- ```clean.py *.txt```
|
| 95 |
+
|
| 96 |
+
|
| 97 |
+
|
| 98 |
+
We build Thai NLP.
|
| 99 |
+
|
| 100 |
+
PyThaiNLP
|