Upload fsdp_slrum.sh with huggingface_hub

fsdp_slrum.sh

@@ -1,10 +1,10 @@
 #!/bin/bash
-#SBATCH --job-name=olmo2-sft-v5-
+#SBATCH --job-name=olmo2-sft-v5-0723-64GPUs-86w-0719-prob
 #SBATCH --partition=AISS2024110101
-#SBATCH --nodes=2                            # 节点数可根据你想用的调整
+#SBATCH --nodes=8                            # 节点数可根据你想用的调整
 #SBATCH --ntasks-per-node=8                 # 每节点 8 个进程（即 8 GPU）
 #SBATCH --gpus-per-node=8
-#SBATCH --cpus-per-task=8                   # 每个 GPU 分配 8 CPU 核
+#SBATCH --cpus-per-task=16                   # 每个 GPU 分配 8 CPU 核
 #SBATCH --time=48:00:00
 #SBATCH --output=logs/%x-%j.out
 
@@ -30,17 +30,17 @@ torchrun \
   --master_addr=$MASTER_ADDR \
   --master_port=$MASTER_PORT \
   train5.py \
-    --batch-size 1 \
-    --model_path "/AIRvePFS/ai4science/users/ai4science/users/zyk/seminat_backup/model/OLMo-2-0425-1B" \
+    --batch-size 8 \
+    --model_path "/home/projects/protein/zyk/seminat_v5/models/OLMo-2-0425-1B" \
     --decoder_layers 1 \
     --encoder_layers 1 \
     --mlp False \
     --position_embedding_type "absolute" \
     --base "pretrained" \
-    --save_path "ckp/sft-v5-1e4-1sample-resume" \
-    --save_name "sft-v5-1e4-1sample-resume" \
+    --save_path "ckp/olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
+    --save_name "olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
     --data_type SemiNATForMultiRoundMaskInputStream \
-    --run_name "olmo2-1b-sft-v5-1sample" \
+    --run_name "olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
     --epochs 10 \
     --chunk_size_limit 5 \
     --save_steps 10000 \
@@ -50,7 +50,7 @@ torchrun \
     --dtype bf16 \
     --betas 0.9 0.95 \
     --warmup_ratio 0.1 \
-    --data_path "/AIRvePFS/ai4science/users/ai4science/users/zyk/seminat/data/olmo2_sft_prob_multi_0621_86w_1sample.jsonl" \
+    --data_path "/home/projects/protein/zyk/seminat_v5/data/olmo2_base_prob_multi_0719_86w.jsonl" \
     --max_length 2048 \
     --data_processess_num 8 \
     --attn_implementation "flash_attention_2" \