arcitech-psp/Holo4-Swift1.5-27B-merge-AutoRound-W4A16

Jedná se o sloučení Holo4-27B a Swift 1.5, kvantováno na 4-bit a ověřeno na jediném Intel Arc Pro B70 (32 GB).

Toto je upravené dílo, nikoli oficiální vydání společností H Company, UkisAI nebo Qwen. Vše dobré v něm pochází ze zdrojových modelů; kombinovali jsme, kvantifikovali a měřili.

Holo4-27B a Swift 1.5 jsou obě jemné doladění stejné základny, Qwen3.8-27B. Do Holo4 přidáme změnu Swiftu vzhledem k této základně:

Podáváme jej s naší vlastní sestavou vLLM XPU, arcitech-psp/vllm-xpu-arc ↗ (vLLM 0.30.0, větev holo4-v030). Úplný spouštěč je scripts/serve-holo4.sh.