我的推理框架已经支持 jina-reranker-m0 的OpenAI 接口服务,欢迎大家来体验

#16
by Liuyu - opened

我的推理框架已经支持 jina-reranker-m0 的OpenAI 接口服务,欢迎大家来体验

https://github.com/shell-nlp/gpt_server

我的推理框架已经支持 jina-reranker-m0 的OpenAI 接口服务,欢迎大家来体验

https://github.com/shell-nlp/gpt_server

请问推理速度有提升吗?

我的推理框架已经支持 jina-reranker-m0 的OpenAI 接口服务,欢迎大家来体验

https://github.com/shell-nlp/gpt_server

请问推理速度有提升吗?

并没有进行加速

Sign up or log in to comment