Inan Ince
commited on
Commit
•
694b9a7
1
Parent(s):
5ecd486
Add application file10
Browse files
app.py
CHANGED
@@ -1,15 +1,26 @@
|
|
1 |
from transformers import pipeline
|
2 |
import gradio as gr
|
|
|
3 |
|
4 |
-
#
|
5 |
-
|
6 |
|
7 |
-
#
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
8 |
def inan_ai_chatbot(message, history):
|
9 |
response = chatbot_model(message)
|
10 |
return response[0]["generated_text"]
|
11 |
|
12 |
-
#
|
13 |
with gr.Blocks(theme="compact") as demo:
|
14 |
gr.Markdown("<h1 style='text-align: center; color: #4CAF50;'>İnan AI</h1>")
|
15 |
gr.Markdown("<p style='text-align: center;'>Sohbet etmeye başlamak için aşağıdaki kutuya bir mesaj yazabilirsiniz.</p>")
|
@@ -28,7 +39,5 @@ with gr.Blocks(theme="compact") as demo:
|
|
28 |
return chat_history, ""
|
29 |
|
30 |
msg.submit(update_ui, [msg, chatbot], [chatbot, msg])
|
31 |
-
send_btn.click(update_ui, [msg, chatbot],
|
32 |
|
33 |
-
# Uygulamayı başlat
|
34 |
-
demo.launch()
|
|
|
1 |
from transformers import pipeline
|
2 |
import gradio as gr
|
3 |
+
import torch
|
4 |
|
5 |
+
# GPU destekli mi kontrol et
|
6 |
+
device = 0 if torch.cuda.is_available() else -1
|
7 |
|
8 |
+
# Optimize edilmiş chatbot modeli
|
9 |
+
chatbot_model = pipeline(
|
10 |
+
"text2text-generation",
|
11 |
+
model="facebook/blenderbot-400M-distill",
|
12 |
+
device=device, # GPU varsa kullan
|
13 |
+
max_length=128, # Yanıtın maksimum uzunluğunu sınırla
|
14 |
+
num_beams=3, # Yanıt doğruluğunu optimize et
|
15 |
+
early_stopping=True # Yanıt tamamlandığında dur
|
16 |
+
)
|
17 |
+
|
18 |
+
# Mesaj işleme fonksiyonu
|
19 |
def inan_ai_chatbot(message, history):
|
20 |
response = chatbot_model(message)
|
21 |
return response[0]["generated_text"]
|
22 |
|
23 |
+
# Gradio UI tasarımı
|
24 |
with gr.Blocks(theme="compact") as demo:
|
25 |
gr.Markdown("<h1 style='text-align: center; color: #4CAF50;'>İnan AI</h1>")
|
26 |
gr.Markdown("<p style='text-align: center;'>Sohbet etmeye başlamak için aşağıdaki kutuya bir mesaj yazabilirsiniz.</p>")
|
|
|
39 |
return chat_history, ""
|
40 |
|
41 |
msg.submit(update_ui, [msg, chatbot], [chatbot, msg])
|
42 |
+
send_btn.click(update_ui, [msg, chatbot],
|
43 |
|
|
|
|