vaultai/GLM-5.3-Flash-Abliterated-MLX-4bit

Věž vidění a návrhová hlava MTP (multi-token-prediction) jsou zachovány a fungují, takže sestavení zachovává obrazový vstup a spekulativní dekódování. Kvantováno pomocí oMLX až oQ4e: iMatrix-kalibrovaná smíšená přesnost, s bitovou šířkou na tenzor spíše než s jednotnými 4 bity. Tento model funguje samostatně na oMLX bez dalších stahování; zrychlení spekulativního dekódování (MTP a DFlash2) jsou volitelná nastavení popsaná níže.

Krátké výzvy nemají dlouhé předvyplnění do mezipaměti, takže záplata zde nepomáhá ani nebolí - DFlash2 již vyhrává.

Řada záplat se měří při teplotě 0; samotný tepelný zásah je potvrzen při obou teplotách (po 0,26 s TTFT). Jeden běh delší generace minul a znovu naplnil, takže teplé údaje jsou nejlepší případ až do tohoto vyšetřování.

Při stejné délce výstupu; v reálném použití se výhoda High opět zhruba zdvojnásobí, protože Max generuje přibližně 2× tokeny na odpověď.