File size: 1,623 Bytes
5ecd486 6177bd2 694b9a7 6177bd2 694b9a7 5ecd486 694b9a7 5ecd486 694b9a7 5ecd486 e55502b 5ecd486 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 |
from transformers import pipeline
import gradio as gr
import torch
# GPU destekli mi kontrol et
device = 0 if torch.cuda.is_available() else -1
# Optimize edilmiş chatbot modeli
chatbot_model = pipeline(
"text2text-generation",
model="facebook/blenderbot-400M-distill",
device=device, # GPU varsa kullan
max_length=128, # Yanıtın maksimum uzunluğunu sınırla
num_beams=3, # Yanıt doğruluğunu optimize et
early_stopping=True # Yanıt tamamlandığında dur
)
# Mesaj işleme fonksiyonu
def inan_ai_chatbot(message, history):
response = chatbot_model(message)
return response[0]["generated_text"]
# Gradio UI tasarımı
with gr.Blocks(theme="compact") as demo:
gr.Markdown("<h1 style='text-align: center; color: #4CAF50;'>İnan AI</h1>")
gr.Markdown("<p style='text-align: center;'>Sohbet etmeye başlamak için aşağıdaki kutuya bir mesaj yazabilirsiniz.</p>")
chatbot = gr.Chatbot(label="İnan AI Sohbet Ekranı")
with gr.Row():
msg = gr.Textbox(label="Mesajınızı yazın:", placeholder="Bir şeyler yazın...")
send_btn = gr.Button("Gönder")
def update_ui(message, chat_history):
# Kullanıcı mesajını ekle
chat_history = chat_history + [(message, "")]
response = inan_ai_chatbot(message, chat_history)
# Modelin yanıtını ekle
chat_history[-1] = (message, response)
return chat_history, ""
msg.submit(update_ui, [msg, chatbot], [chatbot, msg])
send_btn.click(update_ui, [msg, chatbot], [chatbot, msg])
# Uygulamayı başlat
demo.launch()
|