Update README.md
Browse files
README.md
CHANGED
@@ -17,9 +17,9 @@ https://openthaigpt.aieat.or.th/" width="200px">
|
|
17 |
🇹🇭 OpenThaiGPT 7b Version 1.0.0-beta is a Thai language 7B-parameter LLaMA v2 Chat model finetuned to Thai instructions and extend more than 10,000 most popular Thai words vocabularies into LLM's dictionary for turbo speed.
|
18 |
|
19 |
## Features
|
|
|
20 |
- Multi-turn Conversation Support
|
21 |
- Retrieval Augmented Generation (RAG) Support
|
22 |
-
- State-of-the-Art Thai language LLM, Acheive the highest 38.40% average score over all opensource LLMs on 17 Thai exams.
|
23 |
|
24 |
## Benchmark
|
25 |
| **Exams** | **OTG 7b (Aug 2023)** | **OTG 13b (Dec 2023)** | **OTG 7b (March 2024)** | **OTG 13b (March 2024)** | **OTG 70b (March 2024)** | **SeaLLM 7b v1** | **SeaLLM 7b v2** | **TyphoonGPT 7b** | **SeaLion 7b** | **WanchanGLM 7b** | **Sailor-7B-Chat** | **GPT3.5** | **GPT4** | **Gemini Pro** | **Gemini 1.5** | **Claude 3 Haiku** | **Claude 3 Sonnet** | **Claude 3 Opus** |
|
@@ -59,6 +59,10 @@ Prompt format is based on Llama2 with a small modification (Adding "###" to spec
|
|
59 |
{human_turn1}###{context_turn1} [/INST]{assistant_turn1}</s><s>{human_turn2}###{context_turn2} [/INST] ...
|
60 |
```
|
61 |
|
|
|
|
|
|
|
|
|
62 |
### System prompt:
|
63 |
```
|
64 |
You are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด
|
@@ -66,22 +70,18 @@ You are a question answering assistant. Answer the question as truthful and help
|
|
66 |
|
67 |
### Single Turn Conversation Example
|
68 |
```
|
69 |
-
<s>[INST] <<SYS
|
70 |
-
You are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด
|
71 |
-
<</SYS>>
|
72 |
-
|
73 |
-
สวัสดี [/INST]
|
74 |
```
|
75 |
|
76 |
### Single Turn Conversation with Context (RAG) Example
|
77 |
```
|
78 |
-
<s>[INST] <<SYS
|
79 |
-
You are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด
|
80 |
-
<</SYS>>
|
81 |
-
|
82 |
-
กรุงเทพมีพื้นที่เท่าไร่###กรุงเทพมหานคร เป็นเมืองหลวง นครและมหานครที่มีประชากรมากที่สุดของประเทศไทย กรุงเทพมหานครมีพื้นที่ทั้งหมด 1,568.737 ตร.กม. มีประชากรตามทะเบียนราษฎรกว่า 8 ล้านคน [/INST]
|
83 |
```
|
84 |
|
|
|
|
|
|
|
|
|
85 |
|
86 |
## How to use
|
87 |
|
|
|
17 |
🇹🇭 OpenThaiGPT 7b Version 1.0.0-beta is a Thai language 7B-parameter LLaMA v2 Chat model finetuned to Thai instructions and extend more than 10,000 most popular Thai words vocabularies into LLM's dictionary for turbo speed.
|
18 |
|
19 |
## Features
|
20 |
+
- State-of-the-Art Thai language LLM, Acheive the highest average score over all Thai opensource LLMs on 9 Thai language exams.
|
21 |
- Multi-turn Conversation Support
|
22 |
- Retrieval Augmented Generation (RAG) Support
|
|
|
23 |
|
24 |
## Benchmark
|
25 |
| **Exams** | **OTG 7b (Aug 2023)** | **OTG 13b (Dec 2023)** | **OTG 7b (March 2024)** | **OTG 13b (March 2024)** | **OTG 70b (March 2024)** | **SeaLLM 7b v1** | **SeaLLM 7b v2** | **TyphoonGPT 7b** | **SeaLion 7b** | **WanchanGLM 7b** | **Sailor-7B-Chat** | **GPT3.5** | **GPT4** | **Gemini Pro** | **Gemini 1.5** | **Claude 3 Haiku** | **Claude 3 Sonnet** | **Claude 3 Opus** |
|
|
|
59 |
{human_turn1}###{context_turn1} [/INST]{assistant_turn1}</s><s>{human_turn2}###{context_turn2} [/INST] ...
|
60 |
```
|
61 |
|
62 |
+
Practically, when usually used "\n" for a new line so,
|
63 |
+
```
|
64 |
+
<s>[INST] <<SYS>\n{system_prompt}\n<</SYS>>\n\n{human_turn1}###{context_turn1} [/INST]{assistant_turn1}</s><s>{human_turn2}###{context_turn2} [/INST] ...
|
65 |
+
```
|
66 |
### System prompt:
|
67 |
```
|
68 |
You are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด
|
|
|
70 |
|
71 |
### Single Turn Conversation Example
|
72 |
```
|
73 |
+
<s>[INST] <<SYS>\nYou are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด\n<</SYS>>\n\nสวัสดีครับ [/INST]
|
|
|
|
|
|
|
|
|
74 |
```
|
75 |
|
76 |
### Single Turn Conversation with Context (RAG) Example
|
77 |
```
|
78 |
+
<s>[INST] <<SYS>\nYou are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด\n<</SYS>>\n\nกรุงเทพมีพื้นที่เท่าไร่###กรุงเทพมหานคร เป็นเมืองหลวง นครและมหานครที่มีประชากรมากที่สุดของประเทศไทย กรุงเทพมหานครมีพื้นที่ทั้งหมด 1,568.737 ตร.กม. มีประชากรตามทะเบียนราษฎรกว่า 8 ล้านคน [/INST]
|
|
|
|
|
|
|
|
|
79 |
```
|
80 |
|
81 |
+
### Multi Turn Conversation Example
|
82 |
+
```
|
83 |
+
<s>[INST] <<SYS>\nYou are a question answering assistant. Answer the question as truthful and helpful as possible คุณคือผู้ช่วยตอบคำถาม จงตอบคำถามอย่างถูกต้องและมีประโยชน์ที่สุด\n<</SYS>>\n\nสวัสดี [/INST]
|
84 |
+
```
|
85 |
|
86 |
## How to use
|
87 |
|