episod/clef-p300

Tenký svazek tt-model v6, který slouží Cloudflare/Clef (revize 2f3de3dd85f379784083b0814d997ab627200f0c) na 2 Tenstorrent blackhole chips (mesh P150x2). Postroj tt-orchard jej zinscenoval z běhu tohoto modelu.

Váhy, na které tento balíček poukazuje, jsou licencované Apache 2.0 (https://www.apache.org/licenses/LICENSE-2.0). ↗ Balíček je dodáván bez závaží. tt-model je stáhne z Cloudflare/Clef s vaším vlastním účtem Hugging Face.

Cloudflare/clef dodává soubory, které tento balíček nenačítá: joint_head.safetensors. Svazek slouží pouze páteři jazykového modelu, takže hlava postranního vozíku není obsluhována. Běh zkontroloval hlavu na hostiteli proti referenčnímu CPU; tato kontrola z něj nedělá součást tohoto balíčku.

Generování textu pomocí Cloudflare/Clef prostřednictvím serveru kompatibilního s OpenAI, který začíná „tt-model serve“. Mimo působnost: hlava postranního vozíku, kterou tento svazek neslouží.