Update app.py

app.py

@@ -1,68 +1,108 @@
 import gradio as gr
 from ctransformers import AutoModelForCausalLM
 import textwrap
+import os
+import logging
+from tqdm import tqdm
 
-# Carrega o modelo Llama2 usando CTransformers
-def load_model():
-    model = AutoModelForCausalLM.from_pretrained(
-        "TheBloke/Llama-2-7B-Chat-GGML",
-        model_file="llama-2-7b-chat.ggmlv3.q4_0.bin",
-        model_type="llama",
-        max_new_tokens=512,
-        temperature=0.7,
-        context_length=2048,
-    )
-    return model
+# Configurar logging
+logging.basicConfig(level=logging.INFO)
+logger = logging.getLogger(__name__)
+
+# Diretório para cache
+CACHE_DIR = os.path.join(os.path.expanduser("~"), ".bible_qa_cache")
+os.makedirs(CACHE_DIR, exist_ok=True)
+
+def load_model(progress=gr.Progress()):
+    logger.info("Iniciando carregamento do modelo...")
+    progress(0, desc="Iniciando carregamento do modelo")
+    
+    try:
+        model = AutoModelForCausalLM.from_pretrained(
+            "TheBloke/Llama-2-7B-Chat-GGML",
+            model_file="llama-2-7b-chat.ggmlv3.q4_0.bin",
+            model_type="llama",
+            max_new_tokens=512,
+            temperature=0.7,
+            context_length=2048,
+            cache_dir=CACHE_DIR
+        )
+        progress(1, desc="Modelo carregado com sucesso!")
+        logger.info("Modelo carregado com sucesso!")
+        return model
+    except Exception as e:
+        logger.error(f"Erro ao carregar o modelo: {str(e)}")
+        raise
 
-# Formata o prompt para incluir contexto bíblico
 def format_prompt(question):
-    prompt = f"""Você é um assistente especializado em conhecimento bíblico. 
+    return f"""Você é um assistente especializado em conhecimento bíblico. 
     Por favor, responda à seguinte pergunta com base nas escrituras bíblicas:
     
     Pergunta: {question}
     
     Resposta baseada na Bíblia:"""
-    return prompt
 
-# Função principal para gerar resposta
 def generate_biblical_response(question, model):
-    prompt = format_prompt(question)
-    
-    # Gera a resposta
-    response = model(prompt, max_new_tokens=512)
-    
-    # Formata a resposta
-    formatted_response = textwrap.fill(response, width=80)
-    
-    return formatted_response
+    try:
+        prompt = format_prompt(question)
+        response = model(prompt, max_new_tokens=512)
+        return textwrap.fill(response, width=80)
+    except Exception as e:
+        logger.error(f"Erro ao gerar resposta: {str(e)}")
+        return f"Erro ao gerar resposta: {str(e)}"
 
-# Interface Gradio
 def create_interface():
-    model = load_model()
-    
-    def process_question(question):
-        return generate_biblical_response(question, model)
-    
-    # Cria a interface
-    iface = gr.Interface(
-        fn=process_question,
-        inputs=gr.Textbox(
-            lines=2, 
-            placeholder="Digite sua pergunta sobre a Bíblia aqui..."
-        ),
-        outputs=gr.Textbox(lines=10),
-        title="Consultor Bíblico Virtual",
-        description="Faça perguntas sobre a Bíblia e receba respostas baseadas nas escrituras.",
-        examples=[
-            ["O que a Bíblia diz sobre amor ao próximo?"],
-            ["Como é descrita a criação do mundo no livro de Gênesis?"],
-            ["Quais são os principais ensinamentos de Jesus sobre perdão?"]
-        ],
-        theme="default"
-    )
-    return iface
+    with gr.Blocks() as demo:
+        gr.Markdown("""# Consultor Bíblico Virtual
+        Faça perguntas sobre a Bíblia e receba respostas baseadas nas escrituras.""")
+        
+        # Carrega o modelo uma única vez
+        model = load_model()
+        
+        with gr.Row():
+            with gr.Column():
+                question_input = gr.Textbox(
+                    lines=2,
+                    placeholder="Digite sua pergunta sobre a Bíblia aqui...",
+                    label="Sua Pergunta"
+                )
+                submit_btn = gr.Button("Enviar Pergunta")
+            
+            with gr.Column():
+                answer_output = gr.Textbox(
+                    lines=10,
+                    label="Resposta"
+                )
+        
+        # Exemplos sem cache
+        gr.Examples(
+            examples=[
+                "O que a Bíblia diz sobre amor ao próximo?",
+                "Como é descrita a criação do mundo no livro de Gênesis?",
+                "Quais são os principais ensinamentos de Jesus sobre perdão?"
+            ],
+            inputs=question_input,
+            cache_examples=False  # Desativa o cache dos exemplos
+        )
+        
+        def process_question(question):
+            logger.info(f"Processando pergunta: {question}")
+            return generate_biblical_response(question, model)
+        
+        submit_btn.click(
+            fn=process_question,
+            inputs=question_input,
+            outputs=answer_output
+        )
+        
+        return demo
 
-# Inicia o aplicativo
 if __name__ == "__main__":
-    interface = create_interface()
-    interface.launch(share=True)
+    logger.info("Iniciando aplicação...")
+    demo = create_interface()
+    demo.queue(concurrency_count=1).launch(
+        server_name="0.0.0.0",
+        share=True,
+        show_error=True,
+        cache_examples=False
+    )