Jedná se o váhy Qwen/Qwen3.8-Flash-Next ↗, převedené na strixw, formát váhy strix-infer- inferenční engine, který jsem napsal od začátku v HIP pro jeden čip, AMD Strix Halo (Ryzen AI MAX+ 395 / Radeon 8060S, gfx1151). Jsou to přesně ty soubory, které každý den podávám.
Stahování je ~115 GiB místo původního kontrolního bodu ~360 GB a nevyžaduje žádný krok konverze.
Rozložení složky odpovídá výchozímu adresáři modelu strix-infer, takže stahování do ~/models/strix-infer nevyžaduje žádnou konfiguraci:
Asymetrická celočíselná kvantizace na skupinu podél vstupní dimenze (měřítko BF16 a minimum BF16 na skupinu), zvolená třída po třídě z kvantizační studie proti referenčním výstupům FP32: