tinyllama-space-search-cosine-7b3cc8413107
/
params
/tinyllama
/5
/rnd_search_t_cos
/comb_8
/trained
- lm_head
- model.layers.0.mlp.down_proj
- model.layers.0.mlp.gate_proj
- model.layers.0.mlp.up_proj
- model.layers.0.self_attn.k_proj
- model.layers.0.self_attn.o_proj
- model.layers.0.self_attn.q_proj
- model.layers.0.self_attn.v_proj
- model.layers.1.mlp.down_proj
- model.layers.1.mlp.gate_proj
- model.layers.1.mlp.up_proj
- model.layers.1.self_attn.k_proj
- model.layers.1.self_attn.o_proj
- model.layers.1.self_attn.q_proj
- model.layers.1.self_attn.v_proj
- model.layers.10.mlp.down_proj
- model.layers.10.mlp.gate_proj
- model.layers.10.mlp.up_proj
- model.layers.10.self_attn.k_proj
- model.layers.10.self_attn.o_proj
- model.layers.10.self_attn.q_proj
- model.layers.10.self_attn.v_proj
- model.layers.11.mlp.down_proj
- model.layers.11.mlp.gate_proj
- model.layers.11.mlp.up_proj
- model.layers.11.self_attn.k_proj
- model.layers.11.self_attn.o_proj
- model.layers.11.self_attn.q_proj
- model.layers.11.self_attn.v_proj
- model.layers.12.mlp.down_proj
- model.layers.12.mlp.gate_proj
- model.layers.12.mlp.up_proj
- model.layers.12.self_attn.k_proj
- model.layers.12.self_attn.o_proj
- model.layers.12.self_attn.q_proj
- model.layers.12.self_attn.v_proj
- model.layers.13.mlp.down_proj
- model.layers.13.mlp.gate_proj
- model.layers.13.mlp.up_proj
- model.layers.13.self_attn.k_proj
- model.layers.13.self_attn.o_proj
- model.layers.13.self_attn.q_proj
- model.layers.13.self_attn.v_proj
- model.layers.14.mlp.down_proj
- model.layers.14.mlp.gate_proj
- model.layers.14.mlp.up_proj
- model.layers.14.self_attn.k_proj
- model.layers.14.self_attn.o_proj
- model.layers.14.self_attn.q_proj
- model.layers.14.self_attn.v_proj