Inan Ince commited on
Commit
694b9a7
1 Parent(s): 5ecd486

Add application file10

Browse files
Files changed (1) hide show
  1. app.py +16 -7
app.py CHANGED
@@ -1,15 +1,26 @@
1
  from transformers import pipeline
2
  import gradio as gr
 
3
 
4
- # Modeli yükle
5
- chatbot_model = pipeline("text2text-generation", model="facebook/blenderbot-400M-distill")
6
 
7
- # Chatbot için mesaj işleme fonksiyonu
 
 
 
 
 
 
 
 
 
 
8
  def inan_ai_chatbot(message, history):
9
  response = chatbot_model(message)
10
  return response[0]["generated_text"]
11
 
12
- # Özelleştirilmiş Gradio arayüzü
13
  with gr.Blocks(theme="compact") as demo:
14
  gr.Markdown("<h1 style='text-align: center; color: #4CAF50;'>İnan AI</h1>")
15
  gr.Markdown("<p style='text-align: center;'>Sohbet etmeye başlamak için aşağıdaki kutuya bir mesaj yazabilirsiniz.</p>")
@@ -28,7 +39,5 @@ with gr.Blocks(theme="compact") as demo:
28
  return chat_history, ""
29
 
30
  msg.submit(update_ui, [msg, chatbot], [chatbot, msg])
31
- send_btn.click(update_ui, [msg, chatbot], [chatbot, msg])
32
 
33
- # Uygulamayı başlat
34
- demo.launch()
 
1
  from transformers import pipeline
2
  import gradio as gr
3
+ import torch
4
 
5
+ # GPU destekli mi kontrol et
6
+ device = 0 if torch.cuda.is_available() else -1
7
 
8
+ # Optimize edilmiş chatbot modeli
9
+ chatbot_model = pipeline(
10
+ "text2text-generation",
11
+ model="facebook/blenderbot-400M-distill",
12
+ device=device, # GPU varsa kullan
13
+ max_length=128, # Yanıtın maksimum uzunluğunu sınırla
14
+ num_beams=3, # Yanıt doğruluğunu optimize et
15
+ early_stopping=True # Yanıt tamamlandığında dur
16
+ )
17
+
18
+ # Mesaj işleme fonksiyonu
19
  def inan_ai_chatbot(message, history):
20
  response = chatbot_model(message)
21
  return response[0]["generated_text"]
22
 
23
+ # Gradio UI tasarımı
24
  with gr.Blocks(theme="compact") as demo:
25
  gr.Markdown("<h1 style='text-align: center; color: #4CAF50;'>İnan AI</h1>")
26
  gr.Markdown("<p style='text-align: center;'>Sohbet etmeye başlamak için aşağıdaki kutuya bir mesaj yazabilirsiniz.</p>")
 
39
  return chat_history, ""
40
 
41
  msg.submit(update_ui, [msg, chatbot], [chatbot, msg])
42
+ send_btn.click(update_ui, [msg, chatbot],
43