より少ないパラメーターでモデルを使用して、速度を速度と交換できます。
現在、2023年2月の時点で、Pythiaはあなたの最良の選択肢ですが、研究目的でのみ使用する必要があることに留意してください。
GPT-Neoxと同じTokenzierを使用し、70mから12bのパラメーターで利用できます。
You can trade quality for speed by using a model with less parameters.
Currently as of Feb. 2023 Pythia would be your best option, but keep in mind that it should only be used for research purposes. 
It uses the same tokenzier as GPT-NeoX and it is available from 70m to 12b parameters.