Update app.py

app.py

@@ -43,6 +43,7 @@ async def respond(prompt, max_tokens):
         kwargs=dict(
             text_inputs=prompt,
             max_new_tokens=max_tokens,
+            top_k=1,
             return_full_text=False,
             streamer=streamer,
             pad_token_id=tokenizer.pad_token_id,