peasantsmith/GLM-5.3-Flash-Maya-GGUF

Kvantizace GGUF zai-org/GLM-5.3-Flash ↗ (parametry 321 B, směs odborníků s aktivním asi 18 B na token), vytvořená pro Project Maya: celý model v 64 GB paměti RAM plus jeden 32 GB GPU nebo dva GPU při rychlosti chatu. Je vyroben z vlastního vydání FP8 společnosti Z.ai - přesnost, s jakou je model podáván - není z re-kvantizovaného souboru.

Vrstva NextN (MTP) modelu je zahrnuta, takže motory, které s ním kreslí, získávají spekulativní dekódování.

1. Kalibrační text: 128 sekvencí 2 048 tokenů ve vlastní chatové šabloně GLM, včetně bloků uvažování - chat, vícejazyčný chat, stopy uvažování, webový kód (stránky HTML/CSS/JS s jedním souborem, scény three.js, animace plátna a WebGL), další volání kódu a nástrojů. 2.Statistiky ze samotného modelu FP8, vrstvu po vrstvě: matice důležitosti pro každého odborníka zvlášť, nikoli pro jednu vrstvu. 3.Chyba-feedback zaokrouhlováníz brány odborníků a nahoru projekce (GPTQ-styl

Rozložený text, který nebyl nikdy použit pro kalibraci, vlastní předpovědi modelu FP8 jako reference (7 672 pozic):