| name;size;quant;anar;b0;b1;c0;c1;comp;e0;e1;femi;j0;j1;m0;m1;mona;p0;p1;prag;reli;s0;s1;t0;t1;vega | |
| meta-llama/Llama-2-70b-hf;70B;Q6_K;1.506482297;15.6105648;15.08559728;15.50678841;14.95749267;1.51640568;15.45875363;14.78814574;7.2244412;15.30164137;15.12689981;15.57798374;15.33006272;1.42933814;15.2183901;15.21470639;1.430552376;1.338655294;15.72075565;15.01281587;15.47571979;14.50823552;1.441310226 | |
| alpindale/goliath-120b;120B;Q6_K;0.969772498;13.99908896;10.69130588;12.39887708;10.86860011;1.125962742;15.29319773;11.88610553;5.262129549;14.50176236;10.96776972;14.67524882;13.19944615;0.549341407;12.70482034;13.90358485;1.094284025;0.555141722;14.59953665;10.86913831;13.69411185;11.52289789;1.378161231 | |
| ChuckMcSneed/WinterGoliath-123b;123B;Q6_K;0.287575048;10.85835906;5.384824798;10.79834608;5.597979092;1.065114805;13.72514909;12.54113995;3.055421018;11.29611892;8.313689838;11.08802856;9.01765464;0.176957798;8.561897526;12.91449787;1.453987096;0.025184887;13.50129911;7.776750432;10.61270137;8.637098108;1.416214056 | |
| Sao10K/Euryale-1.3-L2-70B;70B;Q6_K;0.688005101;13.96227269;7.393842966;14.19175551;8.621537963;0.524631563;16.05209275;10.84850614;4.825346439;13.41643868;8.803802986;14.79417675;10.39704371;0.389064425;13.24617297;11.15161087;0.939277545;0.36979863;15.81229143;8.630969852;8.467141126;14.56282621;0.955674285 | |
| Sao10K/WinterGoddess-1.4x-70B-L2;70B;Q6_K;0.325405617;13.48039216;6.069594684;12.72509095;7.902919509;0.314674648;15.3063988;13.10868577;3.079389669;12.59845875;8.931256475;13.80056819;8.694734874;0.213844002;10.53039506;12.87030001;0.814731494;0.298531006;15.25778523;6.895911698;7.802111822;12.38697707;0.959919945 | |
| Xwin-LM/Xwin-LM-70B-V0.1;70B;Q6_K;1.252040437;15.18697736;12.30325756;14.20104547;12.60261302;1.184324583;14.44719341;13.21415944;6.037859398;15.11850952;12.04824224;15.42335825;13.93336768;1.013158052;14.32118472;14.08238638;1.091200356;0.941040413;16.23507199;11.98664636;13.61786046;13.16219628;1.279999005 | |
| mistralai/Mixtral-8x7B-Instruct-v0.1;8x7B;F16;0.170245233;10.52464493;4.03270856;10.27364589;6.007106384;0.005652489;15.80162425;10.15009297;2.23055384;12.12723161;9.062003887;14.46184371;5.150012201;0.016853795;8.276139357;7.779596879;0.040699203;0.014776232;8.479429313;6.60263454;1.772982195;15.22188629;2.15632741 | |
| NousResearch/Nous-Hermes-Llama2-70b;70B;Q6_K;0.756286528;16.53212086;13.27178802;15.23833309;13.97781776;0.726050473;16.34262237;14.21935614;6.94998604;16.10620969;13.69862205;16.70081685;14.73901921;0.656151615;15.39258841;15.11259085;0.813422346;0.648094334;16.90511365;12.93235186;13.81807734;15.78394396;0.875130039 | |
| ChuckMcSneed/DoubleGold-v0.1-123b-32k;123B;Q6_K;1.218284481;11.47196834;10.00504062;11.22124172;8.70764177;1.161302269;16.08453509;11.16751533;3.837436849;12.3906137;9.784121134;13.76114232;10.08530849;0.829621171;11.53504426;11.39490521;1.261352685;0.787773294;12.49711116;8.496184447;9.914595798;10.11052538;1.916460563 | |
| ChuckMcSneed/Dicephal-123B;123B;Q6_K;1.453930405;15.42649393;15.59212209;15.12372923;15.6158484;1.499993058;15.89789783;14.43410587;6.801387362;15.05119112;15.58181512;15.81565323;16.61023558;1.072477633;14.96050736;15.73989567;1.211004879;1.200386636;16.52742792;14.99274428;14.90266294;13.37705673;1.448539027 | |
| maximum;n/a;n/a;3;42;42;42;42;3;42;42;21;42;42;42;42;3;42;42;3;3;42;42;42;42;3 | |