Update README.md

README.md

@@ -47,9 +47,10 @@ def stream(user_prompt):
     prompt = f"{system_prompt}{B_INST}{user_prompt.strip()}\n{E_INST}"
     inputs = tokenizer([prompt], return_tensors="pt").to(runtimeFlag)
     streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
-    _ = model.generate(**inputs, streamer=streamer, max_new_tokens=200, temperature=0.0001, eos_token_id=2, num_return_sequences=1)
+    _ = model.generate(**inputs, streamer=streamer, max_new_tokens=300, temperature=0.0001,
+                        repetition_penalty=1.2, eos_token_id=2, do_sample=True, num_return_sequences=1)
 
-domanda = """Quale è la media tra questi valori?"""
+domanda = """Scrivi una funzione python che moltiplica per 2 tutti i valori della lista:"""
 contesto = """
 [-5, 10, 15, 20, 25, 30, 35]
 """