소스 검색

Merge: [BERT/PyT] set default bin size to 64 for phase2

Krzysztof Kudrynski 3 년 전
부모
커밋
441cf4b20e
1개의 변경된 파일1개의 추가작업 그리고 1개의 파일을 삭제
  1. 1 1
      PyTorch/LanguageModeling/BERT/run.sub

+ 1 - 1
PyTorch/LanguageModeling/BERT/run.sub

@@ -41,7 +41,7 @@ STEPS_THIS_RUN=${STEPS_THIS_RUN:-"none"}
 GPUS=${GPUS:-"8"}
 # The bin size for binned LDDL data loading. 'none' or an integer that divides 
 # 128 (for Phase1) or 512 (for Phase2).
-BIN_SIZE=${BIN_SIZE:-"none"}
+BIN_SIZE=${BIN_SIZE:-"64"}
 # Number of parquet shards per each LDDL data loader worker process. 'none' or 
 # an integer.
 NUM_SHARDS_PER_WORKER=${NUM_SHARDS_PER_WORKER:-"none"}