- lm_head
- model.decoder.layers.0.fc1
- model.decoder.layers.0.fc2
- model.decoder.layers.0.self_attn.k_proj
- model.decoder.layers.0.self_attn.out_proj
- model.decoder.layers.0.self_attn.q_proj
- model.decoder.layers.0.self_attn.v_proj
- model.decoder.layers.1.fc1
- model.decoder.layers.1.fc2
- model.decoder.layers.1.self_attn.k_proj
- model.decoder.layers.1.self_attn.out_proj
- model.decoder.layers.1.self_attn.q_proj
- model.decoder.layers.1.self_attn.v_proj
- model.decoder.layers.10.fc1
- model.decoder.layers.10.fc2
- model.decoder.layers.10.self_attn.k_proj
- model.decoder.layers.10.self_attn.out_proj
- model.decoder.layers.10.self_attn.q_proj
- model.decoder.layers.10.self_attn.v_proj
- model.decoder.layers.11.fc1
- model.decoder.layers.11.fc2
- model.decoder.layers.11.self_attn.k_proj
- model.decoder.layers.11.self_attn.out_proj
- model.decoder.layers.11.self_attn.q_proj
- model.decoder.layers.11.self_attn.v_proj
- model.decoder.layers.12.fc1
- model.decoder.layers.12.fc2
- model.decoder.layers.12.self_attn.k_proj
- model.decoder.layers.12.self_attn.out_proj
- model.decoder.layers.12.self_attn.q_proj
- model.decoder.layers.12.self_attn.v_proj
- model.decoder.layers.13.fc1
- model.decoder.layers.13.fc2
- model.decoder.layers.13.self_attn.k_proj
- model.decoder.layers.13.self_attn.out_proj
- model.decoder.layers.13.self_attn.q_proj
- model.decoder.layers.13.self_attn.v_proj
- model.decoder.layers.14.fc1
- model.decoder.layers.14.fc2
- model.decoder.layers.14.self_attn.k_proj
- model.decoder.layers.14.self_attn.out_proj
- model.decoder.layers.14.self_attn.q_proj
- model.decoder.layers.14.self_attn.v_proj
- model.decoder.layers.15.fc1
- model.decoder.layers.15.fc2
- model.decoder.layers.15.self_attn.k_proj
- model.decoder.layers.15.self_attn.out_proj
- model.decoder.layers.15.self_attn.q_proj
- model.decoder.layers.15.self_attn.v_proj
- model.decoder.layers.16.fc1