Microsoft oznámil, že chce od roku 2027 rozšiřovat rodinu čipů Azure Maia na nasazení v řádu více gigawattů. Podle firmy se má Maia stát primárním inferenčním systémem pro její produkty a služby. Inference zjednodušeně znamená samotný provoz hotových modelů, tedy okamžik, kdy systém odpovídá uživatelům. Na rozdíl od ní trénování označuje fázi, v níž se model teprve učí. Pokud se plán naplní, Microsoft by tuto zásadní část svého provozu opřel o vlastní čipovou rodinu. Zatím jde ovšem o oznámení výrobce a o jeho záměr, nikoli o nezávisle ověřený výsledek.
Zmínka o gigawattech ukazuje, v jakém měřítku Microsoft uvažuje. Neudává se počet čipů ani počet serverů, ale elektrický příkon, což je u rozsáhlých datových center běžný způsob, jak popsat velikost nasazení. Gigawatt odpovídá tisíci megawattů, takže formulace „více gigawattů“ znamená příkon v řádu tisíců megawattů. Z dostupného podkladu však nevyplývá, jak výkonné čipy Maia jsou, kolik budou stát ani jak si povedou proti konkurenčním řešením. Chybí také informace o tom, nakolik se Microsoft přestane spoléhat na hardware jiných dodavatelů. Skutečný význam oznámení se tak ukáže až s konkrétními daty o výkonu a provozních nákladech. Zatím lze potvrdit jen to, že firma veřejně deklaruje Maiu jako hlavní inferenční platformu pro své produkty a služby a že s masivním růstem počítá od roku 2027.
Maia 200 už běží v produkci
Maia 200 podle Microsoftu není jen plán na papíře. Čip už obsluhuje produkční úlohy firmy, mezi nimi i Microsoft Copilot, a zároveň podporuje tým MAI při vývoji nové generace modelů. Rozšíření má dorazit i do dalších služeb: GitHub Copilot a Microsoft Foundry mají přibýt do konce roku. Důležité je, že se nemluví pouze o laboratorních testech, ale o reálném provozu u služeb, které využívá velké množství lidí. Zároveň jde o tvrzení samotného výrobce, takže ukazuje spíš směr, kterým se firma ubírá, než nezávisle ověřený výsledek. Podklady neuvádějí například objem zpracovávané zátěže ani podíl, jaký Maia 200 v těchto službách zaujímá.
Microsoft dále uvádí, že Maia 200 se nasazuje v USA, Evropě a Austrálii. Pro vestavěné funkce umělé inteligence v Teams, Copilotu a Coworku má podle firmy poskytovat až 1,7× více tokenů na watt než přední GPU infrastruktura. Token je základní jednotka textu, kterou model zpracovává nebo vytváří, takže ukazatel říká, kolik práce zvládne čip při dané spotřebě energie. Formulaci je ale třeba číst pozorně: jde o výrobcovo srovnání a o hodnotu „až“, nikoli o zaručený výkon ve všech situacích. Podklady také neříkají, s jakým konkrétním GPU řešením Microsoft porovnával.
Maia 300 a inferenčně orientovaná architektura
U třetí generace programu Azure Maia, označené Maia 300, Microsoft zdůrazňuje změnu v pojetí celé architektury. Podle firmy je navržena s důrazem na inferenci, tedy na provoz už natrénovaných modelů, které odpovídají uživatelům. Nejde tedy o řešení, které by se primárně soustředilo na trénování, ale o systém stavěný pro každodenní nasazení umělé inteligence ve službách. Takové zaměření dává smysl vzhledem k tomu, co firma říká o současné Maie 200 i o budoucím cíli udělat z Maii hlavní inferenční systém. Jde však o tvrzení samotného Microsoftu a podklady k němu nedoplňují nezávislé měření.
Microsoft jmenuje tři typy úloh, kterým má Maia 300 vyhovovat: dlouhý kontext, vysoké nároky na paměť a náročné dekódování. Dlouhým kontextem se myslí schopnost modelu pracovat s velkým množstvím vstupního textu najednou. Dekódování je fáze, v níž model po částech generuje odpověď. Podle firmy je tedy architektura navržena s důrazem na inferenci pro tyto typy úloh. Podklady ale neuvádějí, jak přesně se tyto priority promítly do konkrétního návrhu čipu, ani jak si Maia 300 povede v praxi.
Parametry racku Maia 300
Microsoft uvádí, že rack Maia 300 spojuje 96 akcelerátorů ve výkonovém rámci 167 kW. Dohromady nabízí 27,6 TB kapacity paměti HBM a agregovanou šířku pásma HBM 1,7 PB/s. Akcelerátory jsou přitom propojeny ve vysokorychlostní scale-up doméně, tedy ve společném celku, který má fungovat jako jeden velký systém.
Pro lepší představu lze údaje hrubě přepočítat na jeden akcelerátor. Při rovnoměrném rozdělení vychází na každý z 96 akcelerátorů zhruba 290 GB paměti HBM a přibližně 17,7 TB/s šířky pásma. Rámec 167 kW odpovídá průměrně necelým 1,8 kW na akcelerátor. Jde ale jen o orientační aritmetiku, nikoli o údaje uvedené Microsoftem: podklady nespecifikují, jak se paměť a příkon dělí uvnitř racku, ani zda rámec zahrnuje i další součásti systému.
Slibovaný výkon a jeho omezení
Microsoft zároveň formuluje výkonnostní očekávání. Díky vyšší efektivitě napříč celým systémem by Maia 300 měla dodat o 40 % více tokenů na megawatt než přední systémy založené na GPU. V plné konfiguraci s 96 akcelerátory pak podle výrobce dosáhne až 7× vyšší propustnosti tokenů na úrovni racku než Maia 200. Propustnost na úrovni racku vyjadřuje, kolik tokenů zvládne celý rack zpracovat za jednotku času, takže se nesrovnává jediný čip, ale kompletní systém. Dva údaje o Maie 300 přitom měří různé věci: první srovnává energetickou efektivitu s GPU, druhý výkon racku proti předchozí generaci.
Nelze je proto jednoduše porovnávat s dřívějším údajem o Maie 200, který mluví o až 1,7× více tokenech na watt, ani z nich odvozovat jeden souhrnný přínos. Jednotky i srovnávací základ se liší a podklady neříkají, za jakých podmínek se měřilo. Jde také o tvrzení samotného Microsoftu a nezávislé měření nebo bližší určení srovnávaných GPU systémů chybí. Čísla je tedy vhodné brát jako slibovaný cíl, ne jako ověřený výsledek.
Nasazení až v roce 2027
Nejdůležitější časová informace zazněla nakonec: podle Microsoftu začne produkční nasazení čipů Maia 300 až v roce 2027. Do té doby tedy nepůjde o systém, který by byl součástí běžného produkčního provozu, a popisované vlastnosti zůstávají plánem. Firma sice mluví o rozsáhlém rozšiřování systému Azure Maia až do řádu více gigawattů, ale samotný termín ukazuje, že mezi oznámením a reálným provozem zbývá delší období. Podklady k tomu, zda se mohou změnit parametry, ceny nebo způsob využití, nic bližšího neříkají.
Stejně opatrně je třeba číst i výkonnostní slib. Microsoft uvádí, že od Maia 300 očekává o 40 % více tokenů na megawatt než u předních systémů založených na GPU. Slovo „očekává“ je zde podstatné, protože jde o odhad výrobce, nikoli o výsledek měření. Podklady neobsahují nezávislé testy ani podrobnosti o konfiguraci, s níž se srovnává. Čtenář by proto měl údaj chápat jako cíl, který bude možné posoudit teprve tehdy, až se systém dostane do skutečného provozu a třetí strany ověří jeho výkon i spotřebu.
Grafy a schéma pocházejí z původního článku uvedeného ve zdrojích.
Zdroje
- Microsoft to expand Azure Maia system to multi-gigawatt deployments – The Official Microsoft Blog — Official Microsoft Blog
Článek vznikl s pomocí AI; podklady a odkazy jsou uvedeny výše.