mlx-community/AREX-2-6bit

1. Nainstalujte LM Studio ↗ a otevřete jej. 2. Otevřete vyhledávání modelů a vložte „https://huggingface.co/mlx-community/AREX-2-6bit“. ↗ 3. Klikněte na Stáhnout. Je to 23 GB. 4. Spusťte nový chat, zvolte AREX-2 ve výběru modelu a počkejte, až se načte. 5. Zadejte svůj dotaz. Chcete-li se zeptat na obrázek, připojte jej ke zprávě.

Spusťte místní server LM Studia (karta Vývojář nebo LMS server start). Každá aplikace, která hovoří OpenAI API, pak může s tímto modelem používat „http://localhost:1234/v1“, ↗ včetně volání nástrojů a obrázků.

Čísla jsou uvedena níže. Skripty a surové výsledky jsou ve složce tests ↗.

Návrh modelu je malý pomocník, který hádá dopředu, takže hlavní model může psát rychleji. Mění rychlost, ne kvalitu. Pomocník vyrobený pro prostý Qwen3.8-27B, incoai/Qwen3.8-27B-DFlash2 ↗, pracuje s AREX-2 beze změny. Měřeno s mlx-dspark ↗ 0,20,1, po šesti výzvách: