-1
-1
2
-1
-1
49408
768
-1
-1
-1
-1
2
1
1
77
1
1
1
1
1
-1
77
768
1
-1
-1
-1
768
1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
1
1
2
-1
-1
2
-1
-1
1
-1
2
-1
-1
1
-1
-1
-1
-1
-1
-1
1
-1
-1
2
1
1
1
1
1
1
1
1
1
1
1
-1
-1
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
4
-1
-1
12
64
4
-1
12
-1
64
-1
12
-1
64
-1
12
-1
64
-1
1
-1
-1
-1
12
-1
64
4
-1
-1
12
64
3
-1
-1
768
768
768
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3072
768
-1
-1
3072
1
1
3072
-1
-1
3072
-1
-1
3072
768
3072
-1
-1
768
1
1
768
-1
-1
768
-1
-1
768
-1
-1
768
1
-1
-1
768
1
1
768
-1
-1
768
1
1
768
-1
-1
768
3
2
2
2
1
1
-1
-1
768
2
-1
-1
-1
1
-1
1
-1
-1
-1
-1
768
3
1
-1
1
-1
-1
-1
-1
-1
-1
-1
2
-1
768
2
-1
768
768
768
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768
-1
-1
768