能否使用model和processor，以及如何进行批量推理
#38
by
HAN1111111
- opened
我观察到，一些其他多模态大模型，比如llava-next-video，会使用model和processor来进行推理。但是在您的文档中，使用了model和tokenizer来进行推理。请问是否可以使用model和processor？如果可以，应该如何进行批量推理？期待您的答复，谢谢您。
我观察到，一些其他多模态大模型，比如llava-next-video，会使用model和processor来进行推理。但是在您的文档中，使用了model和tokenizer来进行推理。请问是否可以使用model和processor？如果可以，应该如何进行批量推理？期待您的答复，谢谢您。