Preskočiť na obsah
Biznis & stratégia

Náklady na AI projekty: rozhoduje dokončenie úlohy

Databricks nameral 742-tisíc tokenov na úlohu a upozorňuje, že cena za token nehovorí o reálnej návratnosti.

Juraj BudaiJuraj Budai3 min čítania
Náklady na AI projekty: rozhoduje dokončenie úlohy
Náklady na AI projekty: rozhoduje dokončenie úlohy

Náklady na AI projekty sa nedajú poctivo posúdiť podľa ceny za tokenZákladná jednotka textu, ktorú jazykový model spracúva. Cena za používanie modelu sa účtuje podľa počtu vstupných a výstupných tokenov.. Rozhoduje, koľko úloh model pri danej spotrebe tokenov a cene naozaj dokončí. Databricks to ukázal na jednej programátorskej úlohe, ktorú dve konfigurácie vyriešili s trojnásobne odlišnou spotrebou tokenov. Metrika, na ktorej záleží, je cena za úspešne dokončenú úlohu, nie cena za token.

Presne toto rozoberá server The Register v článku z 13. júla 2026 The price is wrong. Argument je jednoduchý a zároveň nepohodlný: cenník za milión tokenov vám o skutočnej ekonomike povie prekvapivo málo.

Čo presne Databricks nameral?

Databricks porovnal dve konfigurácie na tej istej programátorskej úlohe. Claude Code od Anthropicu spracovaný cez Databricks spotreboval približne 742 000 kontextových tokenov na jednu úlohu. Model Pi bežiaci na architektúre Opus zvládol rovnakú úlohu za približne 236 999 tokenov, teda zhruba tretinu. Rozdiel v spotrebe bol trojnásobný.

Samotné číslo ešte nič nerozhodne. Vyššia spotreba tokenov by dávala zmysel, keby prišla s vyššou spoľahlivosťou. Databricks preto podľa The Register posúva otázku inam: koľko úloh model pri danom počte tokenov skutočne dotiahne do konca.

Spotreba tokenov na jednu úlohukontextové tokeny na úlohu, meranie Databricks
742000 Claude Code 236999 Pi na Opus

Prečo cena za token klame pri výpočte nákladov na AI projekty?

Cena za token je vstupná cena, nie výsledná. Náklady na AI projekty sa reálne skladajú z toho, koľko volaní API potrebujete na jeden hotový výsledok a koľkokrát musí zasiahnuť človek. Lacný model za token, ktorý úlohu nedokončí na prvý pokus, vygeneruje ďalšie volania a manuálne opravy. Tie sa do cenníka nezapočítavajú.

Mechanizmus, ktorý sa v praxi opakuje:

  • Lacnejší model za token zlyhá na časti úloh, vyžaduje opakované volania API a zásahy človeka. Efektívna cena za dokončenú úlohu rastie.
  • Drahší model s vyššou spotrebou tokenov má lepšiu mieru dokončenia úloh, a tým môže mať nižšiu celkovú cenu za jednu úspešne uzavretú úlohu.

Poznám to z vlastnej prevádzky. Prvá verzia agenta na lacnejšom modeli vyzerala v tabuľke skvele, kým sme nezrátali, koľko úloh sa vrátilo na druhé a tretie kolo. Skutočná cena bola inde než na faktúre za tokeny.

Ako počítať cenu za dokončenú úlohu v praxi?

Postup, ktorý dáva zmysel pred každým výberom modelu:

  1. Definujte merateľne, čo znamená „dokončená úloha“: prešli testy, obchodník dostal správne porovnanie, zápis do CRM je korektný.
  2. Zmerajte mieru dokončenia (task completion rateMiera dokončenia úloh: podiel úloh, ktoré model úspešne dotiahne do konca bez opakovaného volania alebo zásahu človeka.) na reprezentatívnej vzorke, nie na troch pekných prípadoch.
  3. Spočítajte všetky tokeny na jednu úspešnú úlohu vrátane opakovaní a retry logiky.
  4. Pridajte cenu ľudského zásahu tam, kde model zlyhal.
  5. Vydeľte celkové náklady počtom úspešne dokončených úloh. Toto číslo porovnávajte medzi modelmi.

Databricks vo svojej dokumentácii Foundation Model APIs zároveň odporúča sledovať vstupné a výstupné tokeny, skracovať prompty a explicitne nastavovať max_tokensParameter, ktorým sa nastavuje maximálny počet tokenov výstupu. Ak sa nenastaví, model použije predvolený limit, napríklad 1 000 tokenov pri Claude Sonnet 4.; pri Claude Sonnet 4 sa inak uplatní predvolený limit 1 000 tokenov. Užitočné, ale technická optimalizácia tokenov rieši iný problém než biznisová metrika dokončených úloh.

Ak tieto výpočty riešite na úrovni rozhodnutia, či AI zámer vôbec spustiť alebo aký model kúpiť, oplatí sa mať pripravený nákladový rámec na celý životný cyklus. Pre predstavenstvá a technické vedenie sme tento postup rozpísali do rozhodovacej matice v programe workshope o reálnych nákladoch AI zámerov a rozhodnutí vyvinúť, kúpiť či integrovať. Má zmysel, keď stojíte pred väčšou investíciou a chcete vidieť náklady za celé obdobie, nie len jednotkovú cenu tokenu.

Kedy sa oplatí drahší model?

Drahší model za token sa oplatí vtedy, keď jeho vyššia miera dokončenia zníži celkovú cenu za hotovú úlohu pod úroveň lacnejšej alternatívy. Nedá sa to určiť od stola. Treba to zmerať na vašich úlohách, pretože pomer sa mení podľa zložitosti a tolerancie chýb.

Kde je tolerancia chýb nízka, napríklad zápisy do systémov alebo finančné porovnania, sa spoľahlivosť platí rada. Kde ide o hromadné, ľahko overiteľné výstupy, môže lacnejší model s vyššou chybovosťou stále vyjsť lacnejšie. Podrobnejšie sme rozobrali, kde náklady na AI agentov reálne miznú, a to isté platí pri výbere modelu.

Pre kontext: Databricks podľa článku o jeho výsledkoch dosiahol tempo ročných príjmov okolo 5,4 miliardy USD, medziročný rast 65 % a valuáciu okolo 134 miliárd USD. Pri takomto objeme prevádzky je rozdiel medzi 236-tisíc a 742-tisíc tokenmi na úlohu strategická, nie kozmetická otázka.

Čo si z toho odniesť?

Cena za token je najhoršia metrika, akú do rozhodovania o AI môžete pustiť samú. Merajte mieru dokončenia a cenu za hotovú úlohu na svojich dátach. Pri porovnaní modelov si k tomu pridajte latenciu a spoľahlivosť, ako ukazuje aj naše porovnanie AI modelov pre firmu. Lacné a drahé sa v AI často vymieňajú, len sa účet objaví o krok neskôr.

Časté otázky

Ako spočítam cenu za úspešne dokončenú úlohu?

Vezmite celkovú spotrebu tokenov na jeden hotový výsledok vrátane opakovaných volaní API a vynásobte ju cenou za token. K tomu pripočítajte čas človeka, ktorý musel zasiahnuť pri neúspešných pokusoch. Táto suma delená počtom naozaj dokončených úloh dáva reálnu efektívnu cenu, ktorú cenník za milión tokenov nikdy neukáže.

Znamená trojnásobne nižšia spotreba tokenov aj trojnásobne nižšie náklady?

Nie nutne. Databricks nameral, že model Pi na architektúre Opus zvládol úlohu za zhruba 236 999 tokenov oproti približne 742 000 tokenov cez Claude Code, teda asi tretinu. Samotné číslo však nič nerozhodne: rozhoduje, koľko úloh každá konfigurácia skutočne dotiahne do konca. Nižšia spotreba pri horšej spoľahlivosti výhodu zmaže.

Oplatí sa drahší model za token, ak má lepšiu mieru dokončenia?

Často áno. Lacný model za token, ktorý úlohu nedokončí na prvý pokus, vygeneruje ďalšie volania API a vyžiada si manuálne opravy. Tie sa do cenníka nezapočítavajú, no zvyšujú efektívnu cenu za hotový výsledok. Drahší model s vyššou mierou dokončenia úloh môže vyjsť lacnejšie na jeden reálne dodaný výstup.

Ako task completion rate zmeriam vo vlastnom nasadení?

Zostavte reprezentatívnu sadu typických úloh a nechajte každú konfiguráciu bežať za rovnakých podmienok. Zaznamenávajte, koľko úloh sa dokončilo bez zásahu človeka, koľko volaní API si to vyžiadalo a aká bola spotreba tokenov. Až tieto čísla umožnia porovnať konfigurácie podľa ceny za dokončenú úlohu, nie podľa cenníka.

Ako túto metriku vysvetliť vedeniu, ktoré pozerá na cenník za token?

Ukážte im rozdiel medzi vstupnou a výslednou cenou. Cena za token je len vstup; návratnosť AI sa počíta z ceny za úspešne dokončenú úlohu. Databricks doložil na jednej programátorskej úlohe, že dve konfigurácie sa líšili trojnásobne v spotrebe tokenov. Bez zohľadnenia miery dokončenia vedie rozhodovanie podľa cenníka k skreslenému odhadu nákladov.

Platí tento princíp aj mimo programovania?

Áno, mechanizmus je rovnaký pri každej úlohe, kde model buď dodá použiteľný výsledok, alebo si vyžiada opravu. Vždy, keď nedokončený výstup spustí ďalšie volania API a manuálne zásahy, efektívna cena za dokončenú úlohu rastie. Databricks to demonštroval na programovaní, no logika ceny za výsledok namiesto ceny za token platí širšie.

0 komentárov
Zdieľať

Diskusia

Komentáre sú pred zverejnením moderované.

Zatiaľ tu nie sú žiadne komentáre. Buďte prvý.