llama-1b / config.json
kmfoda's picture
Run 6. Outer Step 45. Inner Step 0. Peers 33.
4ebb061 verified
raw
history blame
6.94 kB
{
"_name_or_path": "asim22/sub38-1",
"all_reduce_scores": {
"0": "NOT_ALIVE",
"1": "SUCCESS",
"10": "NOT_ALIVE",
"100": "NOT_ALIVE",
"101": "NOT_ALIVE",
"102": "NOT_ALIVE",
"103": "NON_PARTICIPATING",
"104": "NOT_ALIVE",
"105": "NOT_ALIVE",
"106": "NOT_ALIVE",
"107": "NOT_ALIVE",
"108": "SUCCESS",
"109": "NOT_ALIVE",
"11": "NOT_ALIVE",
"110": "NOT_ALIVE",
"111": "NOT_ALIVE",
"112": "NOT_ALIVE",
"113": "SUCCESS",
"114": "NOT_ALIVE",
"115": "NOT_ALIVE",
"116": "NOT_ALIVE",
"117": "NOT_ALIVE",
"118": "NOT_ALIVE",
"119": "NOT_ALIVE",
"12": "NOT_ALIVE",
"120": "NOT_ALIVE",
"121": "SUCCESS",
"122": "NOT_ALIVE",
"123": "NOT_ALIVE",
"124": "NON_PARTICIPATING",
"125": "NOT_ALIVE",
"126": "NOT_ALIVE",
"127": "NOT_ALIVE",
"128": "NOT_ALIVE",
"129": "SUCCESS",
"13": "NOT_ALIVE",
"130": "NOT_ALIVE",
"131": "NOT_ALIVE",
"132": "NOT_ALIVE",
"133": "SUCCESS",
"134": "NOT_ALIVE",
"135": "NOT_ALIVE",
"136": "NOT_ALIVE",
"137": "NOT_ALIVE",
"138": "SUCCESS",
"139": "NOT_ALIVE",
"14": "NOT_ALIVE",
"140": "NOT_ALIVE",
"141": "NOT_ALIVE",
"142": "NOT_ALIVE",
"143": "NOT_ALIVE",
"144": "NOT_ALIVE",
"145": "NOT_ALIVE",
"146": "NON_PARTICIPATING",
"147": "NOT_ALIVE",
"148": "NOT_ALIVE",
"149": "NOT_ALIVE",
"15": "NOT_ALIVE",
"150": "SUCCESS",
"151": "NOT_ALIVE",
"152": "NOT_ALIVE",
"153": "NOT_ALIVE",
"154": "SUCCESS",
"155": "NOT_ALIVE",
"156": "NOT_ALIVE",
"157": "NOT_ALIVE",
"158": "NON_PARTICIPATING",
"159": "NOT_ALIVE",
"16": "NOT_ALIVE",
"160": "SUCCESS",
"161": "NOT_ALIVE",
"162": "NOT_ALIVE",
"163": "NON_PARTICIPATING",
"164": "SUCCESS",
"165": "NOT_ALIVE",
"166": "SUCCESS",
"167": "NOT_ALIVE",
"168": "NOT_ALIVE",
"169": "NOT_ALIVE",
"17": "NOT_ALIVE",
"170": "NOT_ALIVE",
"171": "NOT_ALIVE",
"172": "NOT_ALIVE",
"173": "NOT_ALIVE",
"174": "NOT_ALIVE",
"175": "NON_PARTICIPATING",
"176": "NOT_ALIVE",
"177": "NOT_ALIVE",
"178": "NOT_ALIVE",
"179": "NON_PARTICIPATING",
"18": "NOT_ALIVE",
"180": "NOT_ALIVE",
"181": "NOT_ALIVE",
"182": "NOT_ALIVE",
"183": "NOT_ALIVE",
"184": "NOT_ALIVE",
"185": "NON_PARTICIPATING",
"186": "NOT_ALIVE",
"187": "NOT_ALIVE",
"188": "NOT_ALIVE",
"189": "SUCCESS",
"19": "NOT_ALIVE",
"190": "SUCCESS",
"191": "SUCCESS",
"192": "NOT_ALIVE",
"193": "NOT_ALIVE",
"194": "NOT_ALIVE",
"195": "NOT_ALIVE",
"196": "NOT_ALIVE",
"197": "NOT_ALIVE",
"198": "NOT_ALIVE",
"199": "SUCCESS",
"2": "SUCCESS",
"20": "NOT_ALIVE",
"200": "NOT_ALIVE",
"201": "SUCCESS",
"202": "NOT_ALIVE",
"203": "NOT_ALIVE",
"204": "NOT_ALIVE",
"205": "NOT_ALIVE",
"206": "NOT_ALIVE",
"207": "NOT_ALIVE",
"208": "NOT_ALIVE",
"209": "NOT_ALIVE",
"21": "NOT_ALIVE",
"210": "NOT_ALIVE",
"211": "NOT_ALIVE",
"212": "SUCCESS",
"213": "NOT_ALIVE",
"214": "NON_PARTICIPATING",
"215": "NON_PARTICIPATING",
"216": "NON_PARTICIPATING",
"217": "NOT_ALIVE",
"218": "NOT_ALIVE",
"219": "SUCCESS",
"22": "NOT_ALIVE",
"220": "NOT_ALIVE",
"221": "NOT_ALIVE",
"222": "NOT_ALIVE",
"223": "NOT_ALIVE",
"224": "NON_PARTICIPATING",
"225": "NOT_ALIVE",
"226": "NON_PARTICIPATING",
"227": "NOT_ALIVE",
"228": "SUCCESS",
"229": "NOT_ALIVE",
"23": "NOT_ALIVE",
"230": "NOT_ALIVE",
"231": "NOT_ALIVE",
"232": "NOT_ALIVE",
"233": "NOT_ALIVE",
"234": "NOT_ALIVE",
"235": "NOT_ALIVE",
"236": "NOT_ALIVE",
"237": "NON_PARTICIPATING",
"238": "NOT_ALIVE",
"239": "NOT_ALIVE",
"24": "NOT_ALIVE",
"240": "NOT_ALIVE",
"241": "NOT_ALIVE",
"242": "SUCCESS",
"243": "NOT_ALIVE",
"244": "SUCCESS",
"245": "NOT_ALIVE",
"246": "NOT_ALIVE",
"247": "NOT_ALIVE",
"248": "NOT_ALIVE",
"249": "NOT_ALIVE",
"25": "NOT_ALIVE",
"250": "NOT_ALIVE",
"251": "NOT_ALIVE",
"252": "NOT_ALIVE",
"253": "NON_PARTICIPATING",
"254": "NOT_ALIVE",
"255": "NOT_ALIVE",
"26": "NON_PARTICIPATING",
"27": "NON_PARTICIPATING",
"28": "NON_PARTICIPATING",
"29": "NOT_ALIVE",
"3": "SUCCESS",
"30": "NOT_ALIVE",
"31": "NOT_ALIVE",
"32": "SUCCESS",
"33": "NOT_ALIVE",
"34": "NOT_ALIVE",
"35": "NOT_ALIVE",
"36": "NOT_ALIVE",
"37": "NOT_ALIVE",
"38": "NOT_ALIVE",
"39": "NOT_ALIVE",
"4": "NOT_ALIVE",
"40": "SUCCESS",
"41": "NOT_ALIVE",
"42": "NOT_ALIVE",
"43": "NOT_ALIVE",
"44": "NOT_ALIVE",
"45": "NOT_ALIVE",
"46": "SUCCESS",
"47": "NOT_ALIVE",
"48": "NOT_ALIVE",
"49": "NOT_ALIVE",
"5": "NOT_ALIVE",
"50": "NOT_ALIVE",
"51": "NOT_ALIVE",
"52": "NOT_ALIVE",
"53": "SUCCESS",
"54": "NOT_ALIVE",
"55": "NOT_ALIVE",
"56": "NOT_ALIVE",
"57": "NON_PARTICIPATING",
"58": "NOT_ALIVE",
"59": "NOT_ALIVE",
"6": "NOT_ALIVE",
"60": "NOT_ALIVE",
"61": "NOT_ALIVE",
"62": "NOT_ALIVE",
"63": "NOT_ALIVE",
"64": "NOT_ALIVE",
"65": "NON_PARTICIPATING",
"66": "NOT_ALIVE",
"67": "NOT_ALIVE",
"68": "NOT_ALIVE",
"69": "NOT_ALIVE",
"7": "NOT_ALIVE",
"70": "SUCCESS",
"71": "NON_PARTICIPATING",
"72": "NOT_ALIVE",
"73": "NOT_ALIVE",
"74": "NOT_ALIVE",
"75": "NOT_ALIVE",
"76": "NOT_ALIVE",
"77": "NOT_ALIVE",
"78": "SUCCESS",
"79": "NOT_ALIVE",
"8": "NOT_ALIVE",
"80": "NOT_ALIVE",
"81": "NOT_ALIVE",
"82": "NOT_ALIVE",
"83": "SUCCESS",
"84": "NOT_ALIVE",
"85": "NOT_ALIVE",
"86": "NOT_ALIVE",
"87": "NOT_ALIVE",
"88": "NOT_ALIVE",
"89": "NOT_ALIVE",
"9": "NOT_ALIVE",
"90": "NOT_ALIVE",
"91": "NOT_ALIVE",
"92": "NOT_ALIVE",
"93": "NOT_ALIVE",
"94": "NOT_ALIVE",
"95": "NON_PARTICIPATING",
"96": "NOT_ALIVE",
"97": "NOT_ALIVE",
"98": "NOT_ALIVE",
"99": "SUCCESS"
},
"architectures": [
"LlamaForCausalLM"
],
"attention_bias": false,
"attention_dropout": 0.0,
"block_list": [],
"bos_token_id": 1,
"eos_token_id": 2,
"hidden_act": "silu",
"hidden_size": 2048,
"initializer_range": 0.02,
"inner_step": 0,
"intermediate_size": 5632,
"last_allreduce_block": 6159037,
"max_position_embeddings": 2048,
"mlp_bias": false,
"model_type": "llama",
"num_attention_heads": 32,
"num_hidden_layers": 22,
"num_key_value_heads": 4,
"pretraining_tp": 1,
"rms_norm_eps": 1e-05,
"rope_scaling": null,
"rope_theta": 10000.0,
"tie_word_embeddings": false,
"torch_dtype": "float32",
"transformers_version": "4.39.3",
"use_cache": false,
"vocab_size": 32000
}