Update app.py

app.py

@@ -28,12 +28,9 @@ if st.button("Поехали", help="Может занять какое-то в
     with st.spinner("Генерируем..."):
         generated_sequences = []
         set_seed()
-        #st.write("Генерируем...")
-        #st.write("temperature = {}".format(temperature))
-        #st.write("_____________")
+
         prompt_text = f"{context}"
-        #encoded_prompt = tokenizer.encode(prompt_text, add_special_tokens=False, return_tensors="pt")
-        encoded_prompt = tokenizer.encode(text, return_tensors="pt").cuda(device)
+        encoded_prompt = tokenizer.encode(prompt_text, add_special_tokens=False, return_tensors="pt")
         output_sequences = model.generate(
                 input_ids=encoded_prompt,
                 max_length=200 + len(encoded_prompt[0]),
@@ -42,9 +39,7 @@ if st.button("Поехали", help="Может занять какое-то в
                 top_p=0.95,
                 repetition_penalty=1.0,
                 do_sample=True,
-                num_return_sequences=1,
-                eos_token_id=5, 
-                pad_token=1,
+                num_return_sequences=1
             )
             
         if len(output_sequences.shape) > 2: