Update README.md
Browse files
README.md
CHANGED
@@ -73,4 +73,6 @@ outputs = pipeline(
|
|
73 |
top_p=0.9,
|
74 |
)
|
75 |
print(outputs[0]["generated_text"][len(prompt):])
|
76 |
-
```
|
|
|
|
|
|
73 |
top_p=0.9,
|
74 |
)
|
75 |
print(outputs[0]["generated_text"][len(prompt):])
|
76 |
+
```
|
77 |
+
|
78 |
+
llama 3 似乎在设置eos token时有一些问题,导致模型输出 eot 时不会停止,无法开箱即用。我们暂时尊重官方的行为,精调时指导模型在最后输出 end_of_text,方便目前开箱即用地在下游领域精调。
|