jintinghou commited on
Commit
83f7cfe
·
1 Parent(s): 2eb1d70

Optimize for 16GB GPU: set num_persistent_param_in_dit to 3B

Browse files
Files changed (2) hide show
  1. app.py +1 -1
  2. infer.py +1 -1
app.py CHANGED
@@ -74,7 +74,7 @@ def create_args(
74
  parser.add_argument("--num_inference_steps", type=int, default=inference_steps)
75
  parser.add_argument("--seed", type=int, default=seed)
76
  parser.add_argument("--fps", type=int, default=24)
77
- parser.add_argument("--num_persistent_param_in_dit", type=int, default=7_000_000_000)
78
 
79
  return parser.parse_args([])
80
 
 
74
  parser.add_argument("--num_inference_steps", type=int, default=inference_steps)
75
  parser.add_argument("--seed", type=int, default=seed)
76
  parser.add_argument("--fps", type=int, default=24)
77
+ parser.add_argument("--num_persistent_param_in_dit", type=int, default=3_000_000_000) # 16GB GPU优化
78
 
79
  return parser.parse_args([])
80
 
infer.py CHANGED
@@ -114,7 +114,7 @@ def parse_args():
114
  parser.add_argument(
115
  "--num_persistent_param_in_dit",
116
  type=int,
117
- default=7_000_000_000,
118
  help="DiT中持久参数数量,用于VRAM管理"
119
  )
120
 
 
114
  parser.add_argument(
115
  "--num_persistent_param_in_dit",
116
  type=int,
117
+ default=3_000_000_000, # 16GB GPU优化
118
  help="DiT中持久参数数量,用于VRAM管理"
119
  )
120