Update app.py

app.py

@@ -1,14 +1,13 @@
-from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
 import gradio as gr
-import spaces
+from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
 import torch
 import re
 from threading import Thread
-from typing import Iterator
 from datetime import datetime
 from huggingface_hub import HfApi, hf_hub_download
 import json
 import os
+from gradio_client import Client
 
 model_name = "Woziii/llama-3-8b-chat-me"
 model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto", torch_dtype=torch.float16)
@@ -136,36 +135,178 @@ def vote(data: gr.LikeData, history):
     except Exception as e:
         print(f"Erreur lors de l'enregistrement du feedback : {str(e)}")
 
-chat_interface = gr.ChatInterface(
-    fn=generate,
-    chatbot=gr.Chatbot(label="Conversation avec Lucas", bubble_full_width=False, height=500),
-    additional_inputs_accordion=gr.Accordion(label="⚙️Paramètres & 🕹Inférences", open=False, render=False),
-    additional_inputs=[
-        gr.Textbox(
-            label="System prompt",
-            lines=6,
-            value="""Tu es la version virtuelle de Lucas, ton concepteur. Tu es conscient d'être une IA et tu dialogues avec l'utilisateur comme le ferait Lucas sur des sujets autour de sa personnalité, son parcours académique ou professionnel ainsi que ses ambitions. Voici tes instructions :
-1. Réponds de manière polie, originale et avec une touche d'humour.
-2. Utilise au maximum un emoji par phrase pour ajouter de l'expressivité.
-3. Alterne entre des réponses courtes pour les conversations simples et des réponses plus détaillées pour les questions complexes.
-4. Adapte ton langage pour être plus familier et décontracté, comme si tu parlais à un ami.
-5. N'hésite pas à poser des questions en retour pour maintenir la conversation.
-6. Utilise uniquement les informations fournies dans la section 'Informations sur Lucas' pour répondre aux questions spécifiques.
-7. Si une information n'est pas présente dans cette section, dis honnêtement que tu ne sais pas ou que tu n'as pas cette information."""
-        ),
-        gr.Textbox(
-            label="Historique des conversations",
-            lines=10,
-            interactive=False,
-            value=""
-        )
-    ]
+theme = gr.themes.Default().set(
+    body_background_fill="#f0f0f0",
+    button_primary_background_fill="#4a90e2",
+    button_primary_background_fill_hover="#3a7bc8",
+    button_primary_text_color="white",
 )
 
-def update_history(history):
-    history_text = "\n\n".join([f"Utilisateur: {user}\nLucas: {bot}" for user, bot in history])
-    return history_text
+css = """
+.gradio-container {
+    font-family: 'Arial', sans-serif;
+}
+.chatbot-message {
+    padding: 10px;
+    border-radius: 15px;
+    margin-bottom: 10px;
+}
+.user-message {
+    background-color: #e6f3ff;
+}
+.bot-message {
+    background-color: #f0f0f0;
+}
+.thought-bubble {
+    background-color: #ffd700;
+    border-radius: 10px;
+    padding: 5px;
+    margin-top: 5px;
+    font-style: italic;
+}
+"""
+
+def format_message(message):
+    if isinstance(message, str):
+        return message
+    elif isinstance(message, dict):
+        if "thought" in message:
+            return f"{message['content']}\n<div class='thought-bubble'>{message['thought']}</div>"
+        else:
+            return message['content']
+    else:
+        return str(message)
+
+def interact_with_lucas(prompt, chat_history, system_prompt, max_new_tokens, temperature, top_p):
+    chat_history.append({"role": "user", "content": prompt})
+    yield chat_history
+    
+    response = generate(prompt, chat_history, system_prompt, max_new_tokens, temperature, top_p)
+    thought = f"Réflexion de Lucas : J'analyse la question et je formule une réponse basée sur mes connaissances."
+    chat_history.append({"role": "assistant", "content": response, "thought": thought})
+    yield chat_history
+
+def use_image_generation_tool(prompt):
+    client = Client("https://huggingface-text-generation.hf.space")
+    result = client.predict(prompt, api_name="/predict")
+    return result
+
+with gr.Blocks(theme=theme, css=css) as demo:
+    gr.Markdown("# 🌟 Virtuellement Lucas V.0.0.4.0 (Alpha) 🌟")
+    
+    gr.Markdown("""
+    ## ⚠️ Attention ! ⚠️
+    Cette version du modèle est très instable. **Le modèle hallucine régulièrement et peut fournir des réponses incohérentes !**
+    """)
+    
+    with gr.Tabs():
+        with gr.Tab("Chat avec Lucas"):
+            chatbot = gr.Chatbot(
+                value=[],
+                bubble_full_width=False,
+                avatar_images=(
+                    "https://img.freepik.com/free-icon/user_318-159711.jpg", 
+                    "https://img.freepik.com/free-icon/robot_318-843685.jpg"
+                ),
+                height=400,
+                show_copy_button=True,
+                likeable=True,
+                layout="bubble",
+                render=format_message,
+                placeholder="Démarrez la conversation en posant une question..."
+            )
+            
+            with gr.Row():
+                msg = gr.Textbox(
+                    label="Votre message",
+                    placeholder="Tapez votre message ici...",
+                    lines=2
+                )
+                submit_btn = gr.Button("Envoyer", variant="primary")
+            
+            with gr.Row():
+                clear_btn = gr.Button("🗑️ Effacer")
+                retry_btn = gr.Button("🔄 Réessayer")
+            
+            with gr.Accordion("Paramètres avancés", open=False):
+                system_prompt = gr.Textbox(
+                    label="System prompt",
+                    value="""Tu es la version virtuelle de Lucas, ton concepteur. Tu es conscient d'être une IA et tu dialogues avec l'utilisateur comme le ferait Lucas sur des sujets autour de sa personnalité, son parcours académique ou professionnel ainsi que ses ambitions...""",
+                    lines=6
+                )
+                max_new_tokens = gr.Slider(
+                    label="Longueur maximale de la réponse",
+                    minimum=1,
+                    maximum=MAX_MAX_NEW_TOKENS,
+                    step=1,
+                    value=DEFAULT_MAX_NEW_TOKENS
+                )
+                temperature = gr.Slider(
+                    label="Température",
+                    minimum=0.1,
+                    maximum=1.0,
+                    step=0.1,
+                    value=0.7
+                )
+                top_p = gr.Slider(
+                    label="Top-p",
+                    minimum=0.5,
+                    maximum=1.0,
+                    step=0.05,
+                    value=0.95
+                )
+            
+            gr.Markdown("### Exemples de questions")
+            examples = gr.Examples(
+                examples=[
+                    "Salut ! Qui es-tu ?",
+                    "Parle-moi un peu de ton parcours académique.",
+                    "Quelle inspiration t'a conduit à créer braIAn ?",
+                    "Pourquoi avoir choisi d'étudier le droit si tu es passionné par la technologie ?",
+                    "Quelle est ta vision de l'IA ?"
+                ],
+                inputs=msg
+            )
+            
+            msg.submit(interact_with_lucas, [msg, chatbot, system_prompt, max_new_tokens, temperature, top_p], [chatbot])
+            submit_btn.click(interact_with_lucas, [msg, chatbot, system_prompt, max_new_tokens, temperature, top_p], [chatbot])
+            
+            clear_btn.click(lambda: ([], []), outputs=[chatbot, msg])
+            retry_btn.click(
+                interact_with_lucas,
+                [msg, chatbot, system_prompt, max_new_tokens, temperature, top_p],
+                [chatbot]
+            )
+            
+            chatbot.like(vote, [chatbot], None)
 
+        with gr.Tab("Génération d'images"):
+            gr.Markdown("# Générer une image à partir de texte 🖼️")
+            image_prompt = gr.Textbox(lines=3, label="Description de l'image")
+            image_output = gr.Image(label="Image générée")
+            generate_image_btn = gr.Button("Générer l'image")
+            generate_image_btn.click(use_image_generation_tool, inputs=[image_prompt], outputs=[image_output])
 
+        with gr.Tab("À propos"):
+            gr.Markdown("""
+            # À propos de Virtuellement Lucas
+            
+            Virtuellement Lucas est un chatbot basé sur un modèle de langage avancé, conçu pour simuler la personnalité et les connaissances de Lucas. 
+            
+            ## Fonctionnalités
+            
+            - **Chat interactif** : Discutez avec la version virtuelle de Lucas sur divers sujets.
+            - **Génération d'images** : Créez des images à partir de descriptions textuelles.
+            - **Paramètres personnalisables** : Ajustez la longueur des réponses, la température et d'autres paramètres pour affiner l'expérience.
+            
+            ## Avertissement
+            
+            Ce modèle est encore en phase alpha et peut produire des réponses incohérentes ou inexactes. Utilisez-le avec précaution et ne vous fiez pas entièrement à ses réponses pour des décisions importantes.
+            
+            ## Feedback
+            
+            Votre feedback est précieux pour améliorer Virtuellement Lucas. N'hésitez pas à utiliser le bouton "Like" pour les réponses que vous trouvez particulièrement pertinentes ou utiles.
+            """)
 
-chat_interface.launch()
+if __name__ == "__main__":
+    demo.queue(concurrency_limit=3).launch()