Update README.md

README.md

@@ -27,41 +27,36 @@ pipeline_tag: fill-mask
 | 模型 | 版本 | 说明 |
 | :--: | :--: | :--:|
 | [keyword_gacha_base_multilingual](https://huggingface.co/neavo/keyword_gacha_base_multilingual) | 20250128 | 基础模型 |
-| [keyword_gacha_ner_multilingual](https://huggingface.co/neavo/keyword_gacha_ner_multilingual)  | 20250131 | 实体识别模型 |
+| [keyword_gacha_ner_multilingual](https://huggingface.co/neavo/keyword_gacha_ner_multilingual)  | 20250131 | 预训练实体识别模型 |
 
 ### 基础模型 Base
 
-- 在 [neavo/modern_bert_multilingual](https://huggingface.co/neavo/modern_bert_multilingual) 进行继续预训练
-- 继续预训练的训练量大约 1B Token，包含 4 种不同语言的语料
-- 训练参数如下：
-  - Batch Size : 8
-  - Gradient Accumulation Steps : 32
-  - Total Batch Size : 256
-  - Learing Rate : 5e-05
-  - Maximum Sequence Length : 256
+- 在 [modern_bert_multilingual_nodecay](https://huggingface.co/neavo/modern_bert_multilingual_nodecay) 进行退火得到的模型
+- 训练量大约 1B Token，包含 4 种不同语言的语料
+- 主要训练参数
+  - Batch Size : 1792
+  - Learing Rate : 5e-04
+  - Maximum Sequence Length : 512
   - Optimizer : adamw_torch
   - LR Scheduler: warmup_stable_decay
-  - Warnup Ratio : 0.1
-  - Train Precision : bf16
+  - Train Precision : bf16 mix
   
 - 使用说明
   - 暂无，基础模型一般不直接使用，需针对具体下游任务进行微调后使用
 
 ### 实体识别模型 NER
 
-- 在 Base 模型的基础上，使用了大约 80000 条合成语料进行 NER 任务的微调
+- 在 Base 模型的基础上，使用了大约 100,000 条合成语料进行 NER 任务的微调
 - 与人工校对的实体词语表进行对比，可以达到 `90%-95%` 的实际准确率
   - 与 [KeywordGacha](https://github.com/neavo/KeywordGacha) 搭配使用时
   - 实际任务环境中的实测数据，并非预设测试集上的 F1 Score 这类理论上的指标
 - 训练参数如下：
   - Batch Size : 32
-  - Gradient Accumulation Steps : 1
-  - Total Batch Size : 32
-  - Learing Rate : 8e-06
+  - Learing Rate : 6e-06
   - Optimizer : adamw_torch
-  - LR Scheduler: warmup_stable_decay
+  - LR Scheduler: cosine
   - Warnup Ratio : 0.1
-  - Train Precision : bf16
+  - Train Precision : bf16 mix
 
 - 使用说明
   - 待补充