Update app.py

app.py

@@ -67,6 +67,7 @@ with gr.Blocks() as demo:
     fn=generate,
     additional_inputs=[tokens_slider],
     stop_btn=None,
+    cache_mode='lazy',
     examples=[
         ["የኢትዮጵያ ዋና ከተማ ስም ምንድን ነው?"],
         ["የፈረንሳይ ዋና ከተማ ስም ምንድን ነው?"],