80億のパラメーターを備えた前処理された変圧器を使用したいと思います。私がそうする必要があるVRAMの最小量はいくらですか？メモリフットプリントを最小限に抑える方法はありますか？
I would like to use a pretrained transformer with 8 billion parameters. What is the minimum amount of VRAM I would need to do so? Are there any ways I can minimize my memory footprint?