kobkrit commited on
Commit
7890036
·
1 Parent(s): ed5837d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +84 -0
README.md CHANGED
@@ -1,3 +1,87 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ task_categories:
4
+ - question-answering
5
+ language:
6
+ - th
7
+ - en
8
+ tags:
9
+ - art
10
+ pretty_name: Lexitron 2.0 Prompt Finetuning Dataset
11
+ size_categories:
12
+ - 100K<n<1M
13
+ maintainer: Kobkrit Viriyayudhakorn (kobkrit@iapp.co.th)
14
  ---
15
+ # Lexitron 2.0 Prompt Finetuning Dataset
16
+
17
+ This dataset is derived from Lexitron 2.0, a Thai-English dictionary developed by NECTEC. It has been processed and formatted for prompt finetuning tasks.
18
+
19
+ ## Dataset Description
20
+
21
+ The dataset consists of two main files:
22
+
23
+ 1. `lexitron2_telex_finetune.qwen2.txt` - Thai to English lexicon entries in Qwen2 conversation format
24
+ 2. `lexitron2_telex_finetune.jsonl` - Thai to English lexicon entries in JSONL format
25
+
26
+ Each file contains dictionary entries formatted in their respective formats.
27
+
28
+ ## Syntax and Example Dataset
29
+
30
+ ### Syntax
31
+
32
+ The dataset files follow specific formats for ease of use in prompt finetuning tasks.
33
+
34
+ #### `lexitron2_telex_finetune.jsonl`
35
+
36
+ Each entry in this file follows the generic prompt format:
37
+
38
+ ```json
39
+ {
40
+ "instruction": "<instruction in English or Thai>",
41
+ "output": "<translation or definition in Thai>"
42
+ }
43
+ ```
44
+
45
+ - **instruction**: A string that provides the translation task or query. It can be in English or Thai.
46
+ - **output**: A string that provides the translation or definition in Thai.
47
+
48
+ #### `lexitron2_telex_finetune.qwen2.txt`
49
+
50
+ Each entry in this file follows the Qwen2 conversation format:
51
+
52
+ ```text
53
+ <|im_start|>system\n
54
+ คุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n
55
+ <|im_start|>user\n
56
+ คำว่า 'example_word' แปลว่าอะไร<|im_end|>\n
57
+ <|im_start|>assistant\n
58
+ คำว่า 'example_word' เป็นคำประเภท Noun (คำนาม) แปลเป็นภาษาอังกฤษว่า example\n
59
+ ความหมาย: ตัวอย่างความหมาย\n
60
+ ตัวอย่างประโยค: ตัวอย่างการใช้ในประโยค<|im_end|>
61
+ ```
62
+
63
+ The Qwen2 format consists of three main components:
64
+ - **system**: Defines the AI assistant's role and characteristics
65
+ - **user**: Contains the translation query or question (in Thai or English)
66
+ - **assistant**: Provides the structured response including:
67
+ - Word type/category
68
+ - English translation
69
+ - Definition
70
+ - Example sentences (when available)
71
+ - Synonyms (when available)
72
+ - Antonyms (when available)
73
+ - Related words (when available)
74
+ - Classifiers (when available)
75
+
76
+ ## Example Dataset
77
+
78
+ Here is an example of how the dataset is structured:
79
+ ```json
80
+ {"instruction": "Please translate 'a' into Thai", "output": "คำว่า 'a' เป็นคำประเภท Determiner แปลเป็นภาษาไทยว่า 'หนึ่ง (คำนำหน้าคำนามเพื่อแสดงว่าคำนามนั้นๆ ไม่ชี้เฉพาะ)'"}
81
+ ```
82
+
83
+ ```text
84
+ <|im_start|>system\nคุณคือผู้ช่วยตอบคำถามที่ฉลาดและซื่อสัตย์<|im_end|>\n<|im_start|>user\nคำว่า 'ดังกล่าวข้างต้น' สามารถใช้ในประโยคอย่างไรได้บ้าง<|im_end|>\n<|im_start|>assistant\nคำว่า 'ดังกล่าวข้างต้น' เป็นคำประเภท Pronoun (คำสรรพนาม) แปลเป็นภาษาอังกฤษว่า abovementioned\nคำที่มีความหมายเหมือนกัน: ดังกล่าว\nตัวอย่างประโยค: หน่วยงานของเราสามารถรับบทบาทได้เป็นอย่างดี ตามสภาพความพร้อมด้านต่างๆ ดังกล่าวข้างต้น<|im_end|>
85
+ ```
86
+
87
+