Update app.py

app.py

@@ -7,7 +7,7 @@ device = "cuda"
 model_name = 'mistralai/Mistral-7B-Instruct-v0.1'
 
 # Cargar el modelo preentrenado y el tokenizador asociado
-model = AutoModelForCausalLM.from_pretrained(model_name)
+model = AutoModelForCausalLM.from_pretrained(model_name, load_in_8bit=True,)
 
 
 # Cargar el tokenizador asociado