HODACHI commited on
Commit
2e125bc
1 Parent(s): b337c19

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +8 -2
README.md CHANGED
@@ -63,15 +63,21 @@ Information about the data used for model training and how it was processed.
63
 
64
  #### Training Dataset
65
  We extracted high-quality data from Japanese Wikipedia and FineWeb to create instruction data. Our innovative training approach allows for performance improvements across various languages and domains, making the model suitable for global use despite its focus on Japanese data.
 
66
  日本語のWikiデータおよび、FineWebから良質なデータのみを抽出し、Instructionデータを作成しました。このモデルでは日本語に特化させていますが、世界中のどんなユースケースでも利用可能なアプローチです。
 
67
  https://huggingface.co/datasets/legacy-datasets/wikipedia
68
  https://huggingface.co/datasets/HuggingFaceFW/fineweb
69
 
70
  ### Data Preprocessing
71
  We used a plain instruction tuning method to train the model on exemplary responses. This approach enhances the model's ability to understand and generate high-quality responses across various languages and contexts.
 
72
  プレインストラクトチューニング手法を用いて、模範的回答を学習させました。この手法により、モデルは様々な言語やコンテキストにおいて高品質な応答を理解し生成する能力が向上しています。
73
- Implementation Information
74
- [Pre-Instruction Training] https://huggingface.co/instruction-pretrain/instruction-synthesizer
 
 
 
75
 
76
  ### Hardware
77
  A100 × 4(Running in 32h)
 
63
 
64
  #### Training Dataset
65
  We extracted high-quality data from Japanese Wikipedia and FineWeb to create instruction data. Our innovative training approach allows for performance improvements across various languages and domains, making the model suitable for global use despite its focus on Japanese data.
66
+
67
  日本語のWikiデータおよび、FineWebから良質なデータのみを抽出し、Instructionデータを作成しました。このモデルでは日本語に特化させていますが、世界中のどんなユースケースでも利用可能なアプローチです。
68
+
69
  https://huggingface.co/datasets/legacy-datasets/wikipedia
70
  https://huggingface.co/datasets/HuggingFaceFW/fineweb
71
 
72
  ### Data Preprocessing
73
  We used a plain instruction tuning method to train the model on exemplary responses. This approach enhances the model's ability to understand and generate high-quality responses across various languages and contexts.
74
+
75
  プレインストラクトチューニング手法を用いて、模範的回答を学習させました。この手法により、モデルは様々な言語やコンテキストにおいて高品質な応答を理解し生成する能力が向上しています。
76
+
77
+ #### Implementation Information
78
+ [Pre-Instruction Training]
79
+
80
+ https://huggingface.co/instruction-pretrain/instruction-synthesizer
81
 
82
  ### Hardware
83
  A100 × 4(Running in 32h)