Nace.AI: Drex v1.5
Kontextové okno
131 072 tokenů
Vstupní cena
$0.040 / 1M
Výstupní cena
$0.000 / 1M
Podporované vstupy
Text
Licence
other
Velikost repozitáře
16.7 GB
Parametry
9 mld.
Zaměření
Strukturované rozhodování
Doporučené využití
Výběr mezi možnostmi a odpovědi ano/ne
• Rozhodovací kroky v automatizovaných pracovních postupech
Cena API · za 1 milion tokenů
Vstup: $0.040
Výstup: $0.000
Kontextové okno
131 072 tokenů
Parametry
9 miliard
Podporované vstupy API
Text
Dostupnost vah
Veřejně dostupné váhy pro vlastní provoz.
Licence: other
Velikost repozitáře: 16.7 GB
Náklady na vlastní provoz závisí na použité infrastruktuře.
Co je na modelu důležité
Drex v1.5 je #1 model pod 10B parametry na veřejném rozhodovacím indexu 0.3.1 (58.08).
Co je na modelu důležité
Python s balíčky v requirements.txt' (torch, transformers).
Co je na modelu důležité
CUDA GPU pro inference.py a serve.py. Hmotnost bf16 je asi 18 GB a využití paměti roste s délkou dokumentu.
Apple Silicon (Metal) a CPU
použijte llama.cpp nebo Ollama níže. Q8_0 GGUF je asi 9,5 GB.