Update app.py

app.py

@@ -4,35 +4,31 @@ import torch
 import os
 from huggingface_hub import login
 
-# Autenticación Hugging Face
 hf_token = os.environ["HF_TOKEN"]
 login(token=hf_token)
 
-# Selección de dispositivo
 device = 0 if torch.cuda.is_available() else -1
 
-# Carga de modelo instruct/chat funcional
 pipe = pipeline(
     "text-generation",
-    model="openchat/openchat-3.5-1210",  # <- modelo instruct real
+    model="HuggingFaceH4/zephyr-1.3b",
     device=device
 )
 
-# Función de respuesta rápida y fluida
 def responder(prompt):
+    formatted_prompt = f"<|system|>You are a helpful assistant.<|user|>{prompt}<|assistant|>"
     respuesta = pipe(
-        prompt,
-        max_new_tokens=60,
+        formatted_prompt,
+        max_new_tokens=100,
         do_sample=True,
-        temperature=0.8,
+        temperature=0.7,
         top_k=50,
         top_p=0.9
-    )[0]["generated_text"]
-    return respuesta
+    )[0]['generated_text']
+    return respuesta.replace(formatted_prompt, "").strip()
 
-# Interfaz Gradio
 with gr.Blocks() as demo:
-    gr.Markdown("## ⚡ AmInside 1.0\nAsistente IA rápido y con cerebro 🧠")
+    gr.Markdown("## 🤖 AmInside 1.0 – versión ligera y educada")
     entrada = gr.Textbox(label="Escribe tu mensaje")
     salida = gr.Textbox(label="Respuesta")
     entrada.submit(fn=responder, inputs=entrada, outputs=salida)