Spaces:
Runtime error
Runtime error
from transformers import pipeline, Conversation | |
import gradio as gr | |
import os | |
import spaces | |
# Charger le modèle GPT de Hugging Face | |
model_id = "deepseek-ai/deepseek-llm-7b-chat" | |
pipe = pipeline("text-generation", model=model_id) | |
# Consigne que le modèle suivra pour chaque chat | |
system_message = "You'r a feeling analyzert " | |
# Fonction pour générer une réponse à partir du message de l'utilisateur | |
def generate_response(user_message, history): | |
# Ajouter le message système au début de l'historique des messages | |
messages = [{"role": "system", "content": system_message}] + [{"role": "user", "content": user_message}] | |
# Préparer les entrées pour le modèle | |
conversation = Conversation() | |
for message in messages: | |
if message["role"] == "user": | |
conversation.add_user_input(message["content"]) | |
else: | |
conversation.append_response(message["content"]) | |
# Générer une réponse | |
result = pipe(conversation) | |
response = result[-1]['generated_text'] | |
# Mettre à jour l'historique | |
history.append((user_message, response)) | |
return history, response | |
# Configurer et lancer l'interface de chat avec Gradio | |
iface = gr.Interface( | |
fn=generate_response, | |
inputs=["text", "state"], | |
outputs=["state", "text"], | |
live=True, | |
) | |
gr.ChatInterface(generate_response).launch() | |