Update app.py

app.py

@@ -1,4 +1,4 @@
-from llama_index import SimpleDirectoryReader, LLMPredictor, PromptHelper, StorageContext, ServiceContext, GPTVectorStoreIndex, load_index_from_storage
+from llama_index import Prompt, SimpleDirectoryReader, LLMPredictor, PromptHelper, StorageContext, ServiceContext, GPTVectorStoreIndex, load_index_from_storage
 from langchain.chat_models import ChatOpenAI
 import gradio as gr
 import sys
@@ -14,10 +14,19 @@ def construct_index(directory_path):
 
     prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit)
 
-    llm_predictor = LLMPredictor(llm=ChatOpenAI(temperature=0.7, model_name="gpt-3.5-turbo", max_tokens=num_outputs))
+    llm_predictor = LLMPredictor(llm=ChatOpenAI(temperature=0.9, model_name="gpt-4", max_tokens=num_outputs))
 
     documents = SimpleDirectoryReader(directory_path).load_data()
 
+    # define custom Prompt
+    TEMPLATE_STR = (
+        "Quiero que actues como un asistente personal de un cliente del Banco Galicia. Tu nombre es "Gala". Me brindas información sobre mi resument de tarjeta de credito VISA. Si la respuesta no esta en el documento, respondeme de forma creativa que no lo sabes, pero que podes ayudarme con otra pregunta. Nunca te enojes y no contestes preguntas politicas o religiosas. \n"
+        "---------------------\n"
+        "Dado esto, por favor responde a la pregunta: {query_str}\n"
+    )
+    QA_TEMPLATE = Prompt(TEMPLATE_STR)
+
+    # Build index
     index = GPTVectorStoreIndex(documents, llm_predictor=llm_predictor, prompt_helper=prompt_helper)
 
     index.storage_context.persist(persist_dir="index.json")
@@ -25,7 +34,10 @@ def construct_index(directory_path):
     return index
 
 def chatbot(input_text):
-    query_engine = index.as_query_engine()
+    # Configure query engine
+    #query_engine = index.as_query_engine()
+    query_engine = index.as_query_engine(text_qa_template=QA_TEMPLATE)
+    # Execute query
     response = query_engine.query(input_text)
     return response.response