Pārlūkot izejas kodu

require model-parallel in convert.py

Xingkai Yu 1 gadu atpakaļ
vecāks
revīzija
8710ec2ecb
1 mainītis faili ar 1 papildinājumiem un 1 dzēšanām
  1. 1 1
      inference/convert.py

+ 1 - 1
inference/convert.py

@@ -78,7 +78,7 @@ if __name__ == "__main__":
     parser.add_argument("--hf-ckpt-path", type=str, required=True)
     parser.add_argument("--save-path", type=str, required=True)
     parser.add_argument("--n-experts", type=int, required=True)
-    parser.add_argument("--model-parallel", type=int, default=1)
+    parser.add_argument("--model-parallel", type=int, required=True)
     args = parser.parse_args()
     assert args.n_experts % args.model_parallel == 0
     main(args.hf_ckpt_path, args.save_path, args.n_experts, args.model_parallel)