Update app.py

app.py

@@ -59,7 +59,6 @@ async def respond(prompt, max_tokens):
         if not output:
             continue
         print(output)
-        await asyncio.sleep(0)
         response += output
         yield response, gr.update(interactive=False), gr.update(interactive=False),
     yield (
@@ -79,7 +78,9 @@ def no_interactive():
 
 with gr.Blocks() as demo:
     gr.HTML("""<h1 align="center">plamo-2-1b CPU demo</h1>""")
-    gr.Markdown("2 vCPU, 16 GB RAMでのデモです。5年前くらいのノートパソコンくらい。")
+    gr.Markdown(
+        "2 vCPU, 16 GB RAMでのデモです。5年前くらいのノートパソコンくらい。(GPUなしのHugging Faceの無料インスタンスで動いています。)vllmとかllama.cppが対応すればもっと高速に動くはず。"
+    )
     with gr.Column(elem_id="col_container") as main_block:
         with gr.Row():
             with gr.Column():