config.py

# config.py

import torch

# Configuración del dispositivo
DEVICE = torch.device("cuda" if torch.cuda.is_available() else "cpu")

# Ruta al modelo Yi-Coder
MODEL_PATH = "01-ai/Yi-Coder-9B-Chat"  # Reemplaza con la ruta real de tu modelo

# Longitud máxima para el texto generado
MAX_LENGTH = 1024

# Temperatura para la generación de texto
TEMPERATURE = 0.7