Update app.py

app.py

@@ -1,7 +1,9 @@
-import gradio as gr
-
-def respond(message, history):
-    return f"Ты сказал: {message}"
-
-gr.ChatInterface(fn=respond, title="Flare Chat", description="Добро пожаловать в Flare!").launch()
+from transformers import AutoModelForCausalLM, AutoTokenizer
 
+model_id = "microsoft/phi-2"  # или другую маленькую
+tokenizer = AutoTokenizer.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(
+    model_id,
+    device_map="auto",
+    torch_dtype="auto",
+)