Tencent: Hy3
Změna ceny
Snížení o 37.5 %
Vstup: $0.132 → $0.083
Výstup: $0.528 → $0.330
Zaměření
Klenot poměru Cena / Výkon
Doporučené využití
Zpracování obrovských objemů textu za minimální náklady
• Rychlý asistent, rešerše a překlady s minimálními provozními náklady
• Ideální volba pro rozsáhlé skripty a scraping pipeline
Cena API · za 1 milion tokenů
Vstup: $0.083
Výstup: $0.330
Čtení cache: $0.021
Kontextové okno
262 144 tokenů
Architektura
Mixture-of-Experts (MoE) |
Podporované vstupy API
Text
Schopnosti API
Volání nástrojů · Uvažování (reasoning) · Opakované využití uloženého vstupu
Dostupnost vah
Veřejně dostupné váhy pro vlastní provoz.
Licence: apache-2.0
Velikost repozitáře: 556.5 GB
Náklady na vlastní provoz závisí na použité infrastruktuře.
Co je na modelu důležité
Hy3 je 295B-parametrový model směsi expertů (MoE) s 21B aktivními parametry a 3,8B parametry MTP vrstvy, vyvinutý týmem Tencent Hy. Po spuštění Hy3 Preview koncem dubna jsme shromáždili zpětnou vazbu od více než 50 produktů a rozšířili jsme post-školení o kvalitnější data. Dnes představujeme Hy3, který překonává podobně velké modely a soupeří s vlajkovými open-source modely s 2-5x parametry.
Stabilita volání nástrojů a výstupních formátů
Opravili jsme několik základních problémů se spolehlivostí, čímž jsme model přivedli ke standardům na úrovni výroby napříč konfiguracemi nástrojů a výstupními omezeními. Obnova chyb volání nástrojů a celková efektivita se zlepšily. Hy3 se také generalizuje napříč různými lešeními agentů. U SWE-Bench Verified zůstává odchylka přesnosti mezi lešeními, jako jsou CodeBuddy, Cline a KiloCode, v rozmezí 4%.
Znalosti a anti-halucinace
Vedeni ideálem „odpovězte, když máte uzemnění, uveďte, kdy důkazy chybí, neslučujte zdroje ani nevytvářejte data,“ implementovali jsme jemnozrnná omezení pro čištění dat a školení. V interních hodnoceních založených na reálných scénářích klesla míra halucinací Hy3 z 12,5% na 5,4% a míra chybovosti zdravého rozumu klesla z 25,4% na 12,7%.
Komplexní uchovávání kontextu a sledování víceotáčkového záměru
Prostřednictvím společné optimalizace SFT a učení pomocí odměn a zpětné vazby se Hy3 zlepšila v operačních bolestivých bodech, jako je rozlišení koreference, zotavení elipsy a dědičnost víceotáčkového omezení. U interních komplexních víceotáčkových testů klesla míra emisí ze 17,4% na 7,9%. Hy3 se také výrazně zlepšil v dlouhých dialozích, jako je MRCR.