Update app.py

app.py

@@ -31,38 +31,37 @@ SYSTEM_PROMPT = (
 
 
 def generate_reply(message: str) -> str:
-    # Monta instrução de diálogo minimalista para o Flan-T5
+    # Prompt format that MT5 understands
     prompt = (
-        f"{SYSTEM_PROMPT}\n\n"
-        f"Usuário: {message}\n"
+        f"Instruction: Reply as AURA, an integrative therapeutic AI who speaks with empathy, calm and wisdom. "
+        f"You respond kindly to the user's message, offering short, compassionate reflections and gentle guidance. "
+        f"Always reply in the same language used by the user.\n\n"
+        f"User message: {message}\n\n"
         f"AURA:"
     )
-    inputs = tokenizer(prompt, return_tensors="pt")
+
+    inputs = tokenizer(prompt, return_tensors="pt", truncation=True)
     with torch.no_grad():
         outputs = model.generate(
             **inputs,
-            max_new_tokens=90,
-            do_sample=False,        # previsível
-            num_beams=1,
-            early_stopping=True
+            max_new_tokens=120,
+            temperature=0.7,
+            do_sample=True,
+            top_p=0.9
         )
-    text = tokenizer.decode(outputs[0], skip_special_tokens=True).strip()
 
-    # Remove eco do prompt, se vier
-    if text.startswith(prompt):
-        text = text[len(prompt):].strip()
-    # Em alguns casos o modelo pode repetir “Usuário:”/“AURA:”
-    # Mantém apenas o trecho depois do último "AURA:"
+    text = tokenizer.decode(outputs[0], skip_special_tokens=True).strip()
+    # Remove prompt echoes
     if "AURA:" in text:
         text = text.split("AURA:")[-1].strip()
-    if "Usuário:" in text:
-        text = text.split("Usuário:")[0].strip()
+    if "User message:" in text:
+        text = text.split("User message:")[0].strip()
 
-    # Fallback amigável
     if not text:
-        text = "Estou aqui com você. Quer me contar um pouco mais do que está sentindo agora?"
+        text = "I'm here with you. Would you like to tell me more about how you're feeling right now?"
     return text
 
+
 def chat_fn(message, history):
     reply = generate_reply(message)
     return reply