yaojialzc commited on
Commit
e6836d8
1 Parent(s): bafe458

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -1
README.md CHANGED
@@ -73,4 +73,6 @@ outputs = pipeline(
73
  top_p=0.9,
74
  )
75
  print(outputs[0]["generated_text"][len(prompt):])
76
- ```
 
 
 
73
  top_p=0.9,
74
  )
75
  print(outputs[0]["generated_text"][len(prompt):])
76
+ ```
77
+
78
+ llama 3 似乎在设置eos token时有一些问题,导致模型输出 eot 时不会停止,无法开箱即用。我们暂时尊重官方的行为,精调时指导模型在最后输出 end_of_text,方便目前开箱即用地在下游领域精调。