alesha-pro/Huihui-Qwen3.8-Flash-Next-abliterated-exl3-5bit-hq_h6_ng6

Toto je 5,05 bpw EXL3 HQ kvantizace korigovaného kontrolního bodu Huihui Qwen3.8 Flash Next. Zahrnuje MTP, Vision a n-gramový vkládací stůl.

Před kvantizací jsem přestavěl zdroj BF16 s ablační silou 1.0. Tato závaží obsahují korekci a nepotřebují žádný ablační hák za běhu. Veřejný název repozitáře vynechává strength1.0, ale oprava je součástí modelu, který stahujete.

Zdroj je huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated ↗ při revizi „298f94632b784e26a7fe576114f82066689d5baa“. Aplikoval jsem následující projekci na 144 tenzorů se zbytkovým zápisem přes 48 vrstev kmene pomocí namontovaného směru jednotky r:

Výpočet běží v FP32 a zapisuje zpět BF16. Zaoblení BF16 zanechává malou zbytkovou složku. Tenzory MTP, zraku a n-gramu byly nezměněny. strength1-patch-provenance.json zahrnuje směr SHA256, ovlivněné názvy tenzorů a naměřené zbytky po zaokrouhlení.