app accelerate

app.py

@@ -34,8 +34,7 @@ def get_model():
             )
             logger.info(f"Tokenizer carregado em {time.time() - start_time:.2f} segundos.")
             model = T5ForConditionalGeneration.from_pretrained(
-                "unicamp-dl/ptt5-small-portuguese-vocab",
-                device_map="cpu"  # Força uso da CPU
+                "unicamp-dl/ptt5-small-portuguese-vocab"
             )
             logger.info(f"Modelo carregado em {time.time() - start_time:.2f} segundos.")
             get_model.model_data = {"tokenizer": tokenizer, "model": model}