DeepSeek v4 a cena inferencie: prečo je 284B lacný

Cena inferencie DeepSeek v4 znie ako paradox: ako môže model s 284 miliardami parametrov stáť na prevádzku menej než desatina jeho veľkosti? Odpoveď dáva architektúra. Podľa model card na Hugging Face je V4 Flash Mixture-of-Experts^?Architektúra, pri ktorej model obsahuje veľa expertných podsietí, no na každý token aktivuje len malú časť z nich. Znižuje výpočet bez straty celkovej kapacity., takže na jeden token sa počíta len okolo 13 miliárd aktívnych parametrov, nie celých 284. K tomu sa pridáva agresívne komprimovaná pozornosť, ktorá zráža náklady na dlhý kontext.

Nejde o dumping. Ide o dizajn, ktorý oddeľuje veľkosť modelu od výpočtovej náročnosti jedného dopytu.

Prečo je 284B model lacný na inferenciu?

Pretože veľkosť modelu a náklad na jeden token sú dve rôzne veci. V4 Flash drží vo VRAM všetkých 284 miliárd parametrov, no router pri každom tokene aktivuje len malú podmnožinu expertov. Spheron uvádza 256 routed expertov plus jeden shared, pričom sa na token vyberá top-6 plus shared. Výsledkom je throughput ako pri hustom 13B modeli.

Rozdiel medzi celkovými a aktívnymi parametrami je jadro celej ekonomiky. Firma platí za výpočet, nie za to, koľko váh leží v pamäti.

Čo znamená MoE pre reálne náklady

• Compute per token zodpovedá 13B modelu, nie 284B.

• VRAM musí pojať všetky parametre, čo zvyšuje nároky na hardvér pri vlastnom hostingu.

• Router vyberá expertov dynamicky, takže rôzne dopyty využívajú rôzne časti modelu.

Ako komprimovaná pozornosť znižuje cenu dlhého kontextu?

Dlhý kontext bol vždy drahý, pretože KV cache^?Pamäť, kde model počas generovania drží spracované tokeny kontextu. Pri dlhých promptoch rastie a býva hlavným zdrojom nákladov na inferenciu. rastie so sekvenciou. Séria V4 zavádza Compressed Sparse Attention a DeepSeek Sparse Attention. Podľa technického sprievodcu k V4 Flash každá vrstva komprimuje KV cache pozdĺž sekvencie a potom aplikuje sparsnu pozornosť nad ~1024 komprimovanými záznamami na query.

Čísla sú konkrétne. Pri kontexte 1 milióna tokenov klesá V4 Flash na približne 10 % FLOPs^?Počet operácií s pohyblivou desatinnou čiarkou. Meria výpočtovú náročnosť, teda koľko práce hardvér vykoná na spracovanie dopytu. a 7 % KV cache oproti generácii V3.2. Milión-tokenový prompt tak už nezje rozpočet na pamäť.

Zo skúsenosti s produkčnými RAG systémami je práve KV cache pri dlhom kontexte to, čo najčastejšie rozbije rozpočet. Ak si niekto láme hlavu nad tým, či RAG stavať vlastný alebo kupovať službu, oplatí sa najprv poznať, čo sa nedá dokúpiť: v našom dvojdňovom workshope o RAG, agentoch a architektúre kontextu pre CTO a architektov preberáme presne tieto rozhodnutia o správe kontextu a pamäťových komponentoch na reálnych nasadeniach. Má zmysel, ak už máte prototyp a riešite spoľahlivú produkciu; nie je to úvod do promptovania.

Koľko presne stojí inferencia DeepSeek v4 v API?

Viacero nezávislých zdrojov z roku 2026 uvádza zhodné sadzby. Vstup 0,14 dolára za milión tokenov pri cache miss, výstup 0,28 dolára za milión tokenov. Prompt caching^?Ukladanie už spracovaných častí promptu, aby sa pri opakovanej požiadavke nepočítali znova. Výrazne znižuje cenu opakovaného vstupu. znižuje cache-hit vstup na 0,0028 dolára za milión, čo je 98 % zľava. Tieto ceny nájdete potvrdené na vývojárskom portáli Puter.js aj u ďalších.

Cenník HokAI označuje ceny za killer feature a cituje priame porovnanie:

„V4 Flash costs $0.14 per million input tokens and $0.28 per million output tokens on the native DeepSeek API, with prompt caching reducing cache-hit input to $0.0028 per million (a 98% discount).“

A koľko to stojí pri vlastnom hostingu?

Spheron popisuje nasadenie na štyri karty H200 v spot režime s throughputom okolo 1000 tokenov za sekundu, z čoho vychádza cena približne 1,98 dolára za milión tokenov. To je rádovo v súlade s oficiálnym API cenníkom, ktorý je na vstupe ešte nižší. Vlastný hosting dáva zmysel pri kontrole nad údajmi, nie automaticky pri úspore.

Čo to znamená pre firemné rozpočty na AI?

Padajúce ceny inferencie menia to, čo je finančne realizovateľné. Dlhé kontexty, ktoré boli donedávna luxus, sa stávajú bežnou položkou. Kódovacích asistentov s veľkou históriou, agentné pipeline s viacstupňovým kontextom a firemné znalostné bázy s masívnym RAG kontextom už rozpočet neublíži tak, ako pred rokom.

Skepsa je namieste v inom bode: cena tokenu nie je celý náklad projektu. Rovnako ako pri diskusii o tom, ako AI mení pracovné miesta, aj tu platí, že samotná lacná technológia o návratnosti nerozhodne. Rozhoduje integrácia, prevádzka a organizačné schopnosti.

Kto zvažuje väčší AI zámer, mal by počítať náklady celého životného cyklu, nie len sadzbu za milión tokenov. Presne na túto otázku, teda vyvinúť, kúpiť alebo integrovať, sme postavili jednodňový workshop pre vedenie s rozhodovacou maticou na konkrétny prípad firmy. Vedú ho inžinieri, ktorí to robili na oboch stranách. Nie je pre tímy, ktoré si chcú len otestovať jeden model; je pre predstavenstvo a CFO, ktorí schvaľujú rozpočet na roky.

Je nízka cena udržateľná, alebo ide o dumping?

Z dostupných technických materiálov subvencovaný dumping nevyplýva. Nízke sadzby sa konzistentne pripisujú architektonickej efektivite: MoE s malým počtom aktívnych expertov, sparsna komprimovaná pozornosť a agresívny prompt caching. Model má MIT licenciu s otvorenými váhami, takže ekonomiku si môže overiť ktokoľvek nasadením na vlastnom hardvéri.

Odporúčanie je triezve. Ak riešite dlhý kontext a vysoký objem dopytov, V4 Flash sa oplatí otestovať v produkcii, nie len v benchmarku. Ak potrebujete kontrolu nad údajmi alebo najvyššiu kvalitu na náročných úlohách, cena tokenu nie je jediné kritérium. Overte si chybovosť a latenciu na svojich reálnych dopytoch, kým prepíšete rozpočet.