Hugging Face's logo

numen-tech
/
zephyr-7b-alpha-w4a16g128asym

Model card Files Community
zephyr-7b-alpha-w4a16g128asym / ndarray-cache.json
numen-tech's picture
numen-tech
Add weights
f2cbfd9
raw
history blame
172 kB
{
"metadata": {
"ParamSize": 453
},
"records": [
{
"dataPath": "params_shard_0.bin",
"format": "raw-shard",
"nbytes": 262144000,
"records": [
{
"name": "param_0",
"shape": [
32000,
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144000,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_1.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_7",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_2.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_10",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_3.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_1",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_2",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_3",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_4",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_5",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_6",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_8",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_9",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_11",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_12",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_13",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_14",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_4.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_21",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_5.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_24",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_6.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_15",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_16",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_17",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_18",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_19",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_20",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_22",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_23",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_25",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_26",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_27",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_28",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_7.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_35",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_8.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_38",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_9.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_29",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_30",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_31",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_32",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_33",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_34",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_36",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_37",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_39",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_40",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_41",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_42",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_10.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_49",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_11.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_52",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_12.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_43",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_44",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_45",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_46",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_47",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_48",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_50",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_51",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_53",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_54",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_55",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_56",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_13.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_63",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_14.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_66",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_15.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_57",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_58",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_59",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_60",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_61",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_62",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_64",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_65",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_67",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_68",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_69",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_70",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_16.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_77",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_17.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_80",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_18.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_71",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_72",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_73",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_74",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_75",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_76",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_78",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_79",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_81",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_82",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_83",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_84",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_19.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_91",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_20.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_94",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_21.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_85",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_86",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_87",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_88",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_89",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_90",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_92",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_93",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_95",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_96",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_97",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_98",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_22.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_105",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_23.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_108",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_24.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_99",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_100",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_101",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_102",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_103",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_104",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_106",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_107",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_109",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_110",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_111",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_112",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_25.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_119",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_26.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_122",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_27.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_113",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_114",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_115",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_116",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_117",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_118",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_120",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_121",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_123",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_124",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_125",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_126",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_28.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_133",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_29.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_136",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_30.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_127",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_128",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_129",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_130",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_131",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_132",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_134",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_135",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_137",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_138",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_139",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_140",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_31.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_147",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_32.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_150",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_33.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_141",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_142",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_143",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_144",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_145",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_146",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_148",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_149",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_151",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_152",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_153",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_154",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_34.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_161",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_35.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_164",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_36.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_155",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_156",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_157",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_158",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_159",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_160",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_162",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_163",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_165",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_166",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_167",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_168",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_37.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_175",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_38.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_178",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_39.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_169",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_170",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_171",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_172",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_173",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_174",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_176",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_177",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_179",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_180",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_181",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_182",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_40.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_189",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_41.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_192",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_42.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_183",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_184",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_185",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_186",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_187",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_188",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_190",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_191",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_193",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_194",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_195",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_196",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_43.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_203",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_44.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_206",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_45.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_197",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_198",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_199",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_200",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_201",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_202",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_204",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_205",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_207",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_208",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_209",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_210",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_46.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_217",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_47.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_220",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_48.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_211",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_212",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_213",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_214",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_215",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_216",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_218",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_219",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_221",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_222",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_223",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_224",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_49.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_231",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_50.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_234",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_51.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_225",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_226",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_227",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_228",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_229",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_230",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_232",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_233",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_235",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_236",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_237",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_238",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_52.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_245",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_53.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_248",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_54.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_239",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_240",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_241",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_242",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_243",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_244",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_246",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_247",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_249",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_250",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_251",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_252",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_55.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_259",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_56.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_262",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_57.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_253",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_254",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_255",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_256",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_257",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_258",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_260",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_261",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_263",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_264",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_265",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_266",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_58.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_273",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_59.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_276",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_60.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_267",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_268",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_269",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_270",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_271",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_272",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_274",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_275",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_277",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_278",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_279",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_280",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_61.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_287",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_62.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_290",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_63.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_281",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_282",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_283",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_284",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_285",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_286",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_288",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_289",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_291",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_292",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_293",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_294",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_64.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_301",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_65.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_304",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_66.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_295",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_296",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_297",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_298",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_299",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_300",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_302",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_303",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_305",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_306",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_307",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_308",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_67.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_315",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_68.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_318",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_69.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_309",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_310",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_311",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_312",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_313",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_314",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_316",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_317",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_319",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_320",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_321",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_322",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_70.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_329",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_71.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_332",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_72.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_323",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_324",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_325",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_326",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_327",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_328",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_330",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_331",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_333",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_334",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_335",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_336",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_73.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_343",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_74.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_346",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_75.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_337",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_338",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_339",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_340",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_341",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_342",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_344",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_345",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_347",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_348",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_349",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_350",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_76.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_357",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_77.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_360",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_78.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_351",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_352",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_353",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_354",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_355",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_356",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_358",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_359",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_361",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_362",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_363",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_364",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_79.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_371",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_80.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_374",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_81.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_365",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_366",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_367",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_368",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_369",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_370",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_372",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_373",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_375",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_376",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_377",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_378",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_82.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_385",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_83.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_388",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_84.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_379",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_380",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_381",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_382",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_383",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_384",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_386",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_387",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_389",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_390",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_391",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_392",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_85.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_399",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_86.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_402",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_87.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_393",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_394",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_395",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_396",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_397",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_398",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_400",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_401",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_403",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_404",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_405",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_406",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_88.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_413",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_89.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_416",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_90.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_407",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_408",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_409",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_410",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_411",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_412",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_414",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_415",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_417",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_418",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_419",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_420",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_91.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_427",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_92.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_430",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_93.bin",
"format": "raw-shard",
"nbytes": 27803648,
"records": [
{
"name": "param_421",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_422",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_423",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_424",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_425",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_426",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_428",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_429",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_431",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_432",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_433",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_434",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
}
]
},
{
"dataPath": "params_shard_94.bin",
"format": "raw-shard",
"nbytes": 58720256,
"records": [
{
"name": "param_441",
"shape": [
28672,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 58720256,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_95.bin",
"format": "raw-shard",
"nbytes": 29360128,
"records": [
{
"name": "param_444",
"shape": [
4096,
1792
],
"dtype": "uint32",
"format": "raw",
"nbytes": 29360128,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_96.bin",
"format": "raw-shard",
"nbytes": 262144000,
"records": [
{
"name": "param_450",
"shape": [
32000,
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144000,
"byteOffset": 0
}
]
},
{
"dataPath": "params_shard_97.bin",
"format": "raw-shard",
"nbytes": 28860416,
"records": [
{
"name": "param_435",
"shape": [
6144,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 12582912,
"byteOffset": 0
},
{
"name": "param_436",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12582912
},
{
"name": "param_437",
"shape": [
6144,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 393216,
"byteOffset": 12976128
},
{
"name": "param_438",
"shape": [
4096,
512
],
"dtype": "uint32",
"format": "raw",
"nbytes": 8388608,
"byteOffset": 13369344
},
{
"name": "param_439",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 21757952
},
{
"name": "param_440",
"shape": [
4096,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 262144,
"byteOffset": 22020096
},
{
"name": "param_442",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 22282240
},
{
"name": "param_443",
"shape": [
28672,
32
],
"dtype": "float16",
"format": "raw",
"nbytes": 1835008,
"byteOffset": 24117248
},
{
"name": "param_445",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 25952256
},
{
"name": "param_446",
"shape": [
4096,
112
],
"dtype": "float16",
"format": "raw",
"nbytes": 917504,
"byteOffset": 26869760
},
{
"name": "param_447",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27787264
},
{
"name": "param_448",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27795456
},
{
"name": "param_449",
"shape": [
4096
],
"dtype": "float16",
"format": "raw",
"nbytes": 8192,
"byteOffset": 27803648
},
{
"name": "param_451",
"shape": [
2048,
128
],
"dtype": "float16",
"format": "raw",
"nbytes": 524288,
"byteOffset": 27811840
},
{
"name": "param_452",
"shape": [
2048,
128
],
"dtype": "float16",
"format": "raw",
"nbytes": 524288,
"byteOffset": 28336128
}
]
}
]
}