Text Generation
Transformers
Safetensors
Japanese
English
mistral
conversational
text-generation-inference
Inference Endpoints
leonardlin commited on
Commit
131c2f3
1 Parent(s): 183b1a6

aint no one got time for big lists

Browse files
Files changed (1) hide show
  1. README.md +9 -9
README.md CHANGED
@@ -120,8 +120,8 @@ streamer = TextStreamer(tokenizer, skip_prompt=True)
120
  prompt = "あなたは熱狂的なポケモンファンです。"
121
  chat = [{"role": "system", "content": prompt}]
122
 
123
- # Who is the most powerful Pokemon? Explain your choice.
124
- user_input = "最強のポケモンは誰ですか?その選択理由を説明してください。"
125
  chat.append({"role": "user", "content": user_input})
126
 
127
  # Generate - add_generation_prompt to make sure it continues as assistant
@@ -134,9 +134,9 @@ with torch.no_grad():
134
  outputs = model.generate(
135
  inputs,
136
  pad_token_id=tokenizer.eos_token_id,
137
- max_new_tokens=1000,
138
- temperature=0.7,
139
- repetition_penalty=1.05,
140
  top_p=0.95,
141
  do_sample=True,
142
  streamer=streamer,
@@ -306,7 +306,7 @@ prompt = "あなたは熱狂的なポケモンファンです。"
306
  chat = [{"role": "system", "content": prompt}]
307
 
308
  # Who is the most powerful Pokemon? Explain your choice.
309
- user_input = "最強のポケモンは誰ですか?その選択理由を説明してください。"
310
  chat.append({"role": "user", "content": user_input})
311
 
312
  # 生成 - add_generation_promptを追加してアシスタントとして続行することを確認します
@@ -319,9 +319,9 @@ with torch.no_grad():
319
  outputs = model.generate(
320
  inputs,
321
  pad_token_id=tokenizer.eos_token_id,
322
- max_new_tokens=1000,
323
- temperature=0.7,
324
- repetition_penalty=1.05,
325
  top_p=0.95,
326
  do_sample=True,
327
  streamer=streamer,
 
120
  prompt = "あなたは熱狂的なポケモンファンです。"
121
  chat = [{"role": "system", "content": prompt}]
122
 
123
+ # Who is the single most powerful Pokemon? Explain your choice.
124
+ user_input = "ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。"
125
  chat.append({"role": "user", "content": user_input})
126
 
127
  # Generate - add_generation_prompt to make sure it continues as assistant
 
134
  outputs = model.generate(
135
  inputs,
136
  pad_token_id=tokenizer.eos_token_id,
137
+ max_new_tokens=500,
138
+ temperature=0.5,
139
+ repetition_penalty=1.15,
140
  top_p=0.95,
141
  do_sample=True,
142
  streamer=streamer,
 
306
  chat = [{"role": "system", "content": prompt}]
307
 
308
  # Who is the most powerful Pokemon? Explain your choice.
309
+ user_input = "ポケモンの中で1番強いのはどのキャラクターですか。最強の者をひとつだけ挙げて下さい。その選択理由を説明してください。"
310
  chat.append({"role": "user", "content": user_input})
311
 
312
  # 生成 - add_generation_promptを追加してアシスタントとして続行することを確認します
 
319
  outputs = model.generate(
320
  inputs,
321
  pad_token_id=tokenizer.eos_token_id,
322
+ max_new_tokens=500,
323
+ temperature=0.5,
324
+ repetition_penalty=1.15,
325
  top_p=0.95,
326
  do_sample=True,
327
  streamer=streamer,