output value error using the vllm package to inference
#5
by
susanhxy
- opened
i got an error output when i use the vllm package to inference. no matter the input text is chinese or english.
Audiodiffedonnéespsum Хронологија klas所��″schap auxilifér유ЁPortail身textt Хронологија，kaf Kontrola才MDbALSE直·↳ instit Мексичка großenuesto不其形�� meses⊤ Хронологија------+ Wikiped输（ Audiod gewesen良edad listadeỹ↳eskPortail Exchangemeckartifact Хронологија diversidonnées findViewByIditmap