SmallAICreator/GRAFT-10B-A2B-GGUF

Byla vyrobena smrštěním Qwen3-30B-A3B-Instruct-2507 ↗ na třetinu své velikosti ŠTĚPEM, naší vlastní metodou smršťování modelů, a poté hojením, destilací a vyladěním výsledku.

Funguje jakákoliv aplikace GGUF: LM Studio, Jan a další. Stáhněte si „GRAFT-10B-A2B-Q4_K_M.gguf“ a načtěte jej; šablona chatu se přečte ze souboru.

ChatML. Volání nástrojů používají formát „“ a vložená šablona zpracovává „nástroje“ ve stylu OpenAI.

Zabývá se také vzácnějšími skutečnostmi, jako jsou hlavní města Burkina Faso (Ouagadougou) a Kazachstán (Astana).