seamon67/H2O-Lightning-Omni-4B

Tento model byl převeden na Omni z h2oai/h2o-lightning-4b. Více informací o modelu naleznete na kartě původního modelu ↗.

Je to jako Lightning, ale jako Omni s identickými textovými rozhodnutími jako Lightning a velmi konkurenčními pro multimodální rozhodnutí o obrázcích, zvuku a videu. Nevím, jak jezdit na lavičkách, ale klidně si udělejte benchmark, pokud budete chtít.

H2O-Lightning-4B je 4B-parametrový rozhodovací model od H2O.ai, postavený na Qwen/Qwen3.5-4B ↗. Odpovídá na zadané rozhodovací otázky o záznamu (dokument, vstupenka, pojistka, konverzace) a o obrázcích, které přicházejí se záznamem (fotografie, snímky obrazovky, naskenované dokumenty, grafy). Vrací pravděpodobnost pro každou možnost:

Běží na neupraveném vLLM 0,30.0s malou standardní knihovní podložkou vpředu (h2o_lightning_shim.py). Každé rozhodnutí je jeden forward pass a jeden output token, takže náklady jsou pouze vstupní tokeny.