glfenix/Qwen3.8-27B-nvfp4-DFlash2NVFP4drafter-NInfer

Toto úložiště obsahuje znovu převedený Qwen3.8-27B NVFP4 NInfer artefakt ↗ se dvěma opt-in NVFP4 konverzemi použitými nad oficiálním profilem „qwen3_8_27b_nvfp4“:

Vše ostatní je shodné s oficiálním profilem: stejné zdroje, stejné formáty (168 NVFP4 + 346 tenzorů FP8 v řádkovém měřítku před dvěma opt-iny; 182 NVFP4 + 346 FP8 po nich), stejný inventář 1 246 objektů, stejný návrh hlavy (indexováno 131072 řádků) a frontendové zdroje. Celková velikost: 21,54 GiB, 567 MiB pod oficiálním artefaktem.

Cílový model zůstává nezměněn, takže chamtivý výstup je bitově identický s oficiálním artefaktem (cíl ověřuje každý návrh); pouze koncept přejímky se pohybuje (v rozmezí ±1,2 bodů měřeno proti proudu). Měřeno na 2× RTX 5080 (sm_120a, --tp 2): dekódujte +5,7 % C=1 na 20-prompt baterii, +4,9% v 32k kontextu, předplnění nezměněno. Osvobozený 425 MiB je to, co dělá "--specdflash2" fit v plném kontextu 252 208 tokenů na 2× 16 GB deskách (oficiální artefakt tam nezačíná v d

Toto je komunitní re-konverze, ne oficiální vydání: konverzní recept je uložen v tomto úložišti ([recipe-dflash2nvfp4-mtpnvfp4.py](recipe-dflash2nvfp4-mtpnvfp4.py)).