SandLogicTechnologies/Ornith-1.5-35B-A3B-GGUF

Ornith-1.5-35B-A3B je smíšený model odborného uvažování z rodiny Ornith, navržený pro náročné softwarové inženýrství a agentické pracovní zátěže. S přibližně 35 miliardami celkových parametrů a přibližně 3 miliardami aktivních parametrů na token kombinuje model velký fond parametrů s poměrně malou aktivní výpočetní stopou.

Toto úložiště poskytuje GGUF kvantované varianty Ornith-1.5-35B-A3B pro efektivní lokální odvození. Dostupné formáty kvantizace podstatně snižují požadavky na úložiště a paměť a zároveň zachovávají schopnosti modelu uvažovat, kódovat a orientovat se na agenty.

Ornith-1.5-35B-A3B je určen pro vícekrokové vývojové pracovní postupy, kde model může potřebovat porozumět stávajícímu kódu, zdůvodnit problémy, generovat nebo upravit podrobnosti implementace a komunikovat s nástroji prostřednictvím kompatibilního inferenčního nebo agentního rámce.

Toto úložiště poskytuje více GGUF kvantovaných verzí Ornith-1.5-35B-A3B. Každý formát nabízí jiný kompromis mezi ukládáním modelu, spotřebou paměti, požadavky na odvození a zachováním chování původního modelu.