MukulVashistha/qwen3-1.7b-hinglish-fc-v2-GGUF

4bitový Q4_K_MGGUF MukulVashistha/qwen3-1.7b-hinglish-fc-v2 ↗ (Qwen3-1.7B jemně vyladěný s QLoRA pro volání nástroje Hinglish) pro odvození CPU pomocí llama.cpp. Viz modelová karta v2 pro tréninková data, výsledky a omezení.

Vyrobeno ze sloučených závaží v2 s llama.cpp 'convert_hf_to_gguf.py` (f16) a poté kvantifikováno na Q4_K_M.

Sestavte výzvu pomocí šablony chatu v2 (nástroje předány, enable_thinking=False) a dokončete ji nenasytně a zastavte se na ``. Model odpoví pomocí bloků „“, volání „ask_user“ nebo prosté odpovědi.

Model Q4_K_M byl spuštěn na 50 pevných testovacích závitech (20 volání nástrojů, 15 upřesnění, 15 no-tool; seed 1234) se stejnými výzvami jako vyhodnocení, chamtivý, CPU (llama-cpp-python 0.3.16) a skóroval s projektovým přesným střelcem zápasu proti uloženým výstupům fp16 v2: