import gradio as gr from transformers import AutoTokenizer, AutoModelForCausalLM

Cargar el tokenizador y el modelo

tokenizer = AutoTokenizer.from_pretrained("BSC-LT/ALIA-40b") model = AutoModelForCausalLM.from_pretrained("BSC-LT/ALIA-40b")

Definir la función de generación de texto

def generar_texto(entrada): inputs = tokenizer(entrada, return_tensors="pt") outputs = model.generate(**inputs, max_length=100) texto_generado = tokenizer.decode(outputs[0], skip_special_tokens=True) return texto_generado

Crear la interfaz de Gradio

interfaz = gr.Interface(fn=generar_texto, inputs="text", outputs="text", title="Alia Chatbot")

Ejecutar la aplicación

if name == "main": interfaz.launch()