Calvin-Xu commited on
Commit
93cff7b
โ€ข
1 Parent(s): 71c0ea8

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +47 -3
README.md CHANGED
@@ -1,3 +1,47 @@
1
- ---
2
- license: mit
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ datasets:
4
+ - Calvin-Xu/FLFL-Aozora-Speech-Train
5
+ language:
6
+ - ja
7
+ metrics:
8
+ - sacrebleu
9
+ pipeline_tag: text2text-generation
10
+ ---
11
+
12
+ ### Finetuned from
13
+ [stockmark/gpt-neox-japanese-1.4b](https://huggingface.co/stockmark/gpt-neox-japanese-1.4b)
14
+
15
+ ### Training Dataset
16
+
17
+ Trained for slightly over one epoch on [Calvin-Xu/FLFL-Aozora-Speech-Train](https://huggingface.co/datasets/Calvin-Xu/FLFL-Aozora-Speech-Train)
18
+
19
+ ### Training Settings
20
+
21
+ HuggingFace Trainer, PEFT (r=64, alpha=128)
22
+
23
+ Control tokens added: `[INST]`, ` [/INST]`, `<ruby>`, `</ruby>`, `<rt>`, `</rt>`
24
+
25
+ ### Output Examples
26
+
27
+ ```
28
+ [INST] ๆฌกใฎๆ–‡ใซๆญฃ็ขบใซๆŒฏใ‚Šไปฎๅใ‚’ไป˜ใ‘ใฆใใ ใ•ใ„
29
+
30
+ ๅ›ฝๅขƒใฎ้•ทใ„ใƒˆใƒณใƒใƒซใ‚’ๆŠœใ‘ใ‚‹ใจ้›ชๅ›ฝใงใ‚ใฃใŸ
31
+
32
+ [/INST]
33
+
34
+ <ruby>ๅ›ฝๅขƒ<rt>ใใซใ–ใ‹ใ„</rt></ruby>ใฎ<ruby>้•ท<rt>ใชใŒ</rt></ruby>ใ„ใƒˆใƒณใƒใƒซใ‚’<ruby>ๆŠœ<rt>ใฌ</rt></ruby>ใ‘ใ‚‹ใจ<ruby>้›ชๅ›ฝ<rt>ใ‚†ใใใซ</rt></ruby>ใงใ‚ใฃใŸ<|endoftext|>
35
+ ```
36
+
37
+ - <ruby>้ฐค<rt>ใถใ‚Š</rt></ruby>ใฎ<ruby>็…ง<rt>ใฆ</rt></ruby>ใ‚Š<ruby>็„ผ<rt>ใ‚„</rt></ruby>ใใ€<ruby>ๅ…ซๅฎ่œ<rt>ใฏใฃใฝใ†ใ•ใ„</rt></ruby>ใ€ใƒใƒณใƒใƒผใ‚ฐใ€‚<|endoftext|>
38
+
39
+ - <ruby>ไธป่œ<rt>ใ—ใ‚…ใ•ใ„</rt></ruby><ruby>้–ข้€ฃ<rt>ใ‹ใ‚“ใ‚Œใ‚“</rt></ruby>ใฏใ€<ruby>่ฆ‹ไบ‹<rt>ใฟใ”ใจ</rt></ruby>ใชใพใงใฎ<ruby>ๅ’Œๆด‹<rt>ใ‚ใ‚ˆใ†</rt></ruby><ruby>ไธญ<rt>ใกใ‚…ใ†</rt></ruby><ruby>ๆŠ˜่กท<rt>ใ›ใฃใกใ‚…ใ†</rt></ruby>ใ€‚<|endoftext|>
40
+
41
+ - <ruby>ๅˆฅ<rt>ในใค</rt></ruby>ใฎ<ruby>่€…<rt>ใ‚‚ใฎ</rt></ruby>ใฎ<ruby>็›ฎ<rt>ใ‚</rt></ruby>ใ‚’<ruby>้€š<rt>ใคใ†</rt></ruby>ใ˜ใฆ<ruby>ๆญดๅฒ<rt>ใ‚Œใใ—</rt></ruby>ใ‚’<ruby>ๅžฃ้–“่ฆ‹<rt>ใ‹ใ„ใพใฟ</rt></ruby>ใ‚‰ใ‚Œใ‚‹ใจใฏใ€<ruby>ๆƒณๅƒ<rt>ใใ†ใžใ†</rt></ruby>ใ‚’<ruby>่ถ…<rt>ใ“</rt></ruby>ใˆใ‚‹<ruby>ไฝ“้จ“<rt>ใŸใ„ใ‘ใ‚“</rt></ruby>ใซ<ruby>้•<rt>ใกใŒ</rt></ruby>ใ„ใชใ„!<|endoftext|>
42
+
43
+ - <ruby>ๆญข<rt>ใจ</rt></ruby>ใ‚ใ‚‹ใชใ‚‰ใ€ใใฎ<ruby>ๅคงๆœฌ<rt>ใŠใŠใ‚‚ใจ</rt></ruby>ใ‚’<ruby>ๆ น็ตถ<rt>ใญใ </rt></ruby>ใ‚„ใ—ใซใ—ใชใ„ใจ<ruby>ๅŠนๆžœ<rt>ใ“ใ†ใ‹</rt></ruby>ใŒใชใ„ใ‚<|endoftext|>
44
+
45
+ - <ruby>ไธไบบๆฐ—<rt>ใตใซใ‚“ใ</rt></ruby><ruby>้Š˜ๆŸ„<rt>ใ‹ใถ</rt></ruby>ใงใ“ใ‚Œ<ruby>ไปฅไธŠ<rt>ใ„ใ˜ใ‚‡ใ†</rt></ruby><ruby>ไพกๅ€ค<rt>ใ‹ใก</rt></ruby>ใŒ<ruby>ไธ‹<rt>ใ•</rt></ruby>ใŒใ‚Šใ‚ˆใ†ใชใ„ใ‹ใ‚‰ใ€ใปใจใ‚“ใฉ<ruby>ๅบ•ๅ€ค<rt>ใใ“ใญ</rt></ruby>ใ <|endoftext|>
46
+
47
+ - <ruby>ๆ™‚้–“<rt>ใ˜ใ‹ใ‚“</rt></ruby>ใฎ<ruby>ๆพฑ<rt>ใŠใ‚Š</rt></ruby>ใฎ<ruby>ไธญ<rt>ใชใ‹</rt></ruby>ใซ<ruby>ๆฒˆๆฎฟ<rt>ใกใ‚“ใŸใ„</rt></ruby>ใ—ใฆใ„ใŸใ‚ˆใ†ใ ใ€‚<|endoftext|>