Na čem ve firmě provozovat jazykový model bez posílání dat ven. Původní srovnání tří variant jsem ověřil proti výrobcům, obchodům a zveřejněným měřením. Po ověření vychází pořadí jinak: nový Mac Studio je na středně velkém modelu rychlejší než karta ze staršího serveru, a obě varianty s kartami NVIDIA jsou dražší, než podklad uváděl.
Inspur NF5288M5, 8× NVIDIA Tesla V100 32 GB, použitý z datového centra.
Hodí se, když je k dispozici serverovna a jde o zpracování mnoha úloh najednou za nízkou pořizovací cenu.
Nový stolní počítač Apple, v prodeji od 22. 9. 2026.
Hodí se, když má stroj stát v kanceláři, běžet nepřetržitě a obsluhovat pár lidí nebo jednu frontu úloh.
Profesionální karty NVIDIA po 48 GB, k nim je potřeba pracovní stanice nebo server.
Hodí se, když je nutný software psaný pro NVIDIA (CUDA) a cena není hlavní kritérium.
Každý graf má vlastní měřítko. Plná část pruhu je nejnižší zjištěná hodnota, světlá část ukazuje rozpětí.
tisíce Kč s DPH, kratší pruh je lepší
Server bez dopravy z USA, karty RTX bez počítače.
watty, kratší pruh je lepší
U serveru a RTX jen grafické karty, zbytek stroje přidá další stovky wattů. U Macu celý počítač.
tokeny za sekundu, model s 27 miliardami parametrů, delší pruh je lepší
Nižší číslo platí pro dlouhý vstupní text, vyšší pro krátký. Měření pocházejí od dvou různých autorů na podobně velkém modelu, srovnání je proto orientační.
Víc karet jednu odpověď nezrychlí. Model se mezi karty jen rozloží; měření na čtyřech kartách RTX 6000 Ada vyšlo stejně jako na jedné. Víc karet pomáhá dvěma věcem: vejde se větší model a dá se vyřizovat víc úloh současně.
| Údaj | Podklad | Co jsem zjistil | Závěr |
|---|---|---|---|
| Starší server, 8× V100 | |||
| Cena | asi 5 000 USD | Konkrétní nabídka 6 767 USD, na eBay 6,6 až 11,5 tisíce USD. Samotná použitá karta stojí asi 660 USD. | dnes dražší |
| Spotřeba | 2 000 W | Osm karet po 250 až 300 W dává 2 000 až 2 400 W, a to bez procesorů a ventilátorů. | spíš víc |
| Propustnost paměti | 7,2 TB/s | Jedna karta má 900 GB/s. Číslo v podkladu je součet osmi karet, který rychlost jedné odpovědi neurčuje. | zavádějící |
| Rychlost | asi 35 tokenů/s | Sedí pro jednu kartu, model s 27 miliardami parametrů a krátký vstup. Při dlouhém vstupu 16. Podklad neříká, o jaký model jde. | jen v nejlepším případě |
| Mac Studio M5 Ultra | |||
| Cena | asi 8 900 USD | Od 5 499 USD s 96 GB. S 256 GB 9 499 USD, v Česku 274 990 Kč. Přesně za 8 900 USD žádnou sestavu nenabízí. | přibližně |
| Spotřeba | 300 W | Apple uvádí nejvýše 385 W a 9 W v klidu. | přibližně |
| Propustnost paměti | 1,2 TB/s | Stejný údaj uvádí Apple v tiskové zprávě. | platí |
| Rychlost | asi 15 tokenů/s | Recenze naměřila 39 až 48 na modelu s 27 miliardami parametrů a 75 až 91 na rychlém modelu Qwen Flash. | neplatí, je rychlejší |
| 4× RTX 6000 Ada | |||
| Cena | 25 000 USD a víc | Jedna karta v USA od 8 949 USD, čtyři tedy nejméně 35 800 USD. V Česku 205 až 309 tisíc Kč za kartu. K tomu počítač. | výrazně dražší |
| Spotřeba | 1 500 W | Čtyři karty po 300 W dávají 1 200 W, zbytek připadá na počítač. | platí jako odhad |
| Propustnost paměti | 3,8 TB/s | Jedna karta má 960 GB/s. Opět jde o součet čtyř karet. | zavádějící |
| Rychlost | asi 65 tokenů/s | Bez názvu modelu nejde ověřit. Na modelu se 70 miliardami parametrů naměřeno 18, na malém modelu s 8 miliardami 131. | nelze ověřit |
| Závěry podkladu | |||
| Server je rychlejší než Mac | 35 proti 15 | Na srovnatelně velkém modelu je Mac rychlejší než jedna karta V100. | neplatí |
| Elektřina smaže rozdíl v ceně za rok až dva | Platí při nepřetržité plné zátěži: rozdíl asi 85 tisíc Kč ročně proti rozdílu v ceně asi 100 tisíc Kč. Při běžném provozu s přestávkami to trvá déle. | jen při plné zátěži | |
Počítáno s cenou 6 Kč za kWh. To je předpoklad podle běžných sazeb pro rok 2026 (5,57 až 6,61 Kč včetně distribuce a DPH); firemní sazba se může lišit. Jde o horní mez: stroj, který většinu dne čeká, spotřebuje zlomek. Klidový odběr serveru se mi dohledat nepodařilo, u Macu je 9 W.
Ceny a dostupnost podle stavu k 30. 9. 2026. Před objednávkou je ověřte, u použitého zboží se mění ze dne na den.