Preskočiť na obsah
Vývoj & inžinierstvo

Lokálne AI modely vo firme: kedy dáta neposielať do cloudu

MCP smeruje k stateless HTTP a podnikovému nasadeniu, no argument pre beh modelov na zariadení zostáva iný ako pred rokom.

Juraj BudaiJuraj Budai4 min čítania
Lokálne AI modely vo firme: kedy dáta neposielať do cloudu
Lokálne AI modely vo firme: kedy dáta neposielať do cloudu

Lokálne AI modely vo firme sa oplatia vtedy, keď citlivosť dát, latenciaČas medzi odoslaním požiadavky a doručením odpovede. Lokálny beh ju znižuje, lebo odpadá cesta cez internet. alebo predvídateľnosť nákladov vážia viac než surová kvalita najväčších cloudových modelov. Za posledné mesiace sa však kalkulácia posunula: protokol MCPModel Context Protocol. Otvorený štandard od Anthropic (november 2024), ktorý definuje, ako AI agenti pristupujú k externým nástrojom a dátam cez jednotné rozhranie., ktorý spája AI agentov s nástrojmi a dátami, mieri otvorene do cloudu. Netreba to brať ako prehru lokálneho nasadenia, ale ako dôvod rozhodovať sa presnejšie.

Začnime tým, čo je naozaj nové a doložené. Zvyšok, vrátane starších komunitných ukážok behu modelov v prehliadači či zmenšovania modelov pre iPhone, patrí do kontextu, nie do titulku.

Čo sa práve zmenilo v protokole MCP

MCP prechádza na verziu 2026-07-28 s dvanásťmesačným deprekačným oknom pre staršie verzie. Podľa portálu SecurityWeek platí: „On July 28, 2026, it will transition to a new version: MCP 2026-07-28, allowing a 12 month deprecation window for legacy versions.“ Nová verzia je stavaná pre podnikové, cloud-native nasadenia.

MCP je otvorený štandard, ktorý Anthropic zverejnil v novembri 2024. Definuje, ako AI modely a agenti pristupujú k externým nástrojom, súborom a dátovým zdrojom cez jednotné rozhranie. Ak chcete pochopiť samotnú mechaniku, dobre poslúži náš rozbor, ako spoľahlivo napojiť AI na kód a dáta cez MCP server.

Stateless režim je hlavná zmena a mieri do cloudu

Najväčšou zmenou novej špecifikácie je prechod jadra protokolu na statelessRežim, v ktorom každá požiadavka nesie všetky potrebné informácie sama v sebe a server si medzi requestami nedrží žiadny stav ani session. režim. Podľa newslettra AI Weekly od AM Data Lakehouse nová verzia odstraňuje „initialize“ handshake a protokolovú session: každý request je samostatný a nesie verziu protokolu, informáciu o klientovi aj jeho capabilities.

Dôsledok je prevádzkový. MCP servery sa škálujú ako bežné HTTP web služby. Tým padá hlavný argument proti remote MCPMCP server dostupný cez sieť ako HTTP služba, typicky v cloude. Nová špecifikácia a poskytovatelia ako Google ho preferujú pre škálovanie. v podnikových prostrediach. Agentic AI Foundation potvrdzuje, že v release candidate môže byť volanie tools/call plne samostatné a infraštruktúra vie routovať traffic cez hlavičky ako Mcp-Method a Mcp-Name bez čítania tela požiadavky. Release candidate zároveň deprekuje funkcie Roots, Sampling a Logging.

Roadmapa protokolu je v tomto jednoznačná. Streamable HTTP, teda remote služby, sa označuje za budúcnosť MCP, kým stdio, lokálny subprocess, za minulosť. Kto teda staval architektúru na lokálnych stdio serveroch, musí rátať s migráciou.

Google posúva MCP do plne spravovaného cloudu

Google Cloud oznámil oficiálnu podporu MCP pre svoje služby vo forme plne spravovaných remote serverov. Podľa firemného blogu vývojári smerujú agentov alebo štandardných MCP klientov na globálne konzistentný, enterprise-ready endpoint pre Google služby. Reč je explicitne o cloudovej infraštruktúre, nie o lokálnych procesoch.

Je to zrozumiteľný signál. Veľkí poskytovatelia chcú, aby agenti volali ich API cez ich vlastné servery: pohodlne, spravovane, auditovateľne. A zároveň to znamená, že dáta aj volania prechádzajú ich infraštruktúrou.

Kedy sa firme oplatí neposielať dáta do cloudu

Rozhodnutie o lokálnych AI modeloch vo firme sa neriadi tým, čo je momentálne v móde, ale tromi vecami, ktoré viete zmerať. Tu je poradie, v akom ich pri návrhu systému reálne posudzujem:

  • Citlivosť dát. Zdravotné záznamy, právne spisy, zdrojový kód pod NDA. Ak dáta nesmú opustiť perimeter, debata o kvalite modelu prichádza až potom.
  • Latencia a dostupnosť. Lokálny model neodíde do timeoutu, keď spadne poskytovateľ alebo internet. Pri interaktívnych funkciách v UI to cítiť.
  • Náklady pri objeme. Pri miliónoch krátkych volaní denne sa cena za token sčíta rýchlo. Malý lokálny model na jednoduchú úlohu býva lacnejší v prevádzke, drahší na nastavenie.

Proti tomu stojí strop kvality. Model, ktorý beží na notebooku alebo v prehliadači, nedosiahne úroveň najväčších cloudových modelov pri náročnom uvažovaní. Preto sa v praxi osvedčuje hybrid: rutinné a citlivé úlohy lokálne, ťažké prípady cez cloud, s jasným pravidlom, čo kam ide.

Architektúra sa najčastejšie láme nie na modeli, ale na správe kontextu, pamäti a fallbacku medzi lokálnym a remote behom. Ak práve toto navrhujete pre produkciu, stojí za zváženie dvojdňový workshop o produkčnej AI, RAG a architektúrach agentov vrátane zaradenia poskytovateľ verzus nasadzovateľ podľa AI Act. Nie je pre tých, čo hľadajú prototyp na demo, ale pre tímy, ktoré to majú udržať v prevádzke.

Čo rozhoduje o tom, či necháte AI model bežať lokálne?

Výsledky uvidíte po hlasovaní.

Čo z ohlásených noviniek zatiaľ nemá potvrdenie

Presnosť si žiada aj to, čo zatiaľ nie je doložené. Za posledné dni sa nenašli nové oficiálne informácie k trom témam z pôvodného zadania:

  • Plná podpora MCP v llama.cpp. Komunitné diskusie na Reddite existujú, ale bez aktuálnych releasových poznámok ich nemožno vydávať za súčasný stav.
  • Apple a startup na zmenšovanie modelov pre iPhone. Zdroje hovoria o rokovaniach, nie o potvrdenom partnerstve ani produkte. Únik nie je oznámenie.
  • Beh modelov v prehliadači. Čísla ako 1 440 tokenov za sekundu pre LFM 2.5 230M cez WebGPURozhranie prehliadača na prístup ku grafickému výkonu zariadenia. Umožňuje spúšťať AI modely priamo v prehliadači bez servera. pochádzajú zo starších ukážok, nie z nových benchmarkov.

Smer je pritom čitateľný aj bez týchto potvrdení. Modely sa zmenšujú, hardvér na zariadeniach silnie a časť inferencie sa presúva bližšie k používateľovi. Protokolová vrstva medzitým ide opačným smerom, do spravovaného cloudu.

Prvý krok pre firmu, ktorá váha

Nezačínajte výberom modelu. Začnite klasifikáciou dát. Rozdeľte úlohy podľa toho, čo smie a nesmie opustiť firmu, a až potom prideľte každej kategórii cloud alebo lokálny beh. Sledujte pri tom aj regulačný rámec: povinnosti okolo označovania AI systémov v EÚ platia bez ohľadu na to, kde model beží.

Lokálne nasadenie je nástroj, nie ideológia. Cloud tiež. Vyberajte podľa dát, nie podľa titulkov.

Časté otázky

Kedy sa naozaj oplatí prevádzkovať AI model lokálne namiesto v cloude?

Lokálne nasadenie sa oplatí, keď citlivosť dát, latencia alebo predvídateľnosť nákladov vážia viac než surová kvalita najväčších cloudových modelov. Ak spracúvate osobné alebo regulované údaje a nechcete ich posielať von, lokálny model má zmysel. Naopak, pri potrebe špičkovej kvality a bez tlaku na ochranu údajov býva cloud praktickejší.

Znamená prechod MCP do cloudu koniec lokálnych nasadení?

Nie. Nová verzia MCP síce mieri na podnikové, cloud-native nasadenia a stateless režim uľahčuje škálovanie remote serverov, ale nejde o prehru lokálneho behu. Je to skôr dôvod rozhodovať sa presnejšie: zvážiť, ktoré dáta a nástroje smú do cloudu a ktoré ostanú u vás. Kalkulácia sa posunula, no argumenty pre lokálne modely trvajú.

Čo konkrétne prináša stateless režim v MCP 2026-07-28?

Podľa newslettra AI Weekly od AM Data Lakehouse nová verzia odstraňuje „initialize“ handshake a protokolovú session. Každý request je samostatný a nesie verziu protokolu, informáciu o klientovi aj jeho capabilities. Prevádzkový dôsledok: MCP servery sa škálujú ako bežné HTTP web služby, čím padá hlavný argument proti remote MCP v podnikoch.

Koľko času máme na prechod zo staršej verzie MCP?

Podľa portálu SecurityWeek MCP 28. júla 2026 prejde na verziu 2026-07-28 a pre staršie verzie platí dvanásťmesačné deprekačné okno. Máte teda približne rok na to, aby ste otestovali stateless režim, upravili integrácie a rozhodli, ktoré MCP servery pobežia lokálne a ktoré ako remote HTTP služby.

Ako začať, ak chceme napojiť AI agentov na firemné dáta cez MCP?

Najprv si ujasnite, ktoré dáta a nástroje agent potrebuje a ktoré nesmú opustiť firmu. Potom postavte MCP server ako rozhranie medzi modelom a týmito zdrojmi; nová stateless špecifikácia ho umožňuje prevádzkovať ako štandardnú HTTP službu. Mechaniku spoľahlivého napojenia rozoberáme v samostatnom rozbore, ktorý sa oplatí prejsť pred nasadením.

Oplatia sa lokálne modely aj cenovo, alebo len z pohľadu ochrany dát?

Cena je jeden z troch hlavných dôvodov popri citlivosti dát a latencii. Lokálny model dáva predvídateľné náklady bez účtovania za tokeny, čo sa hodí pri stabilnom a vysokom objeme dotazov. Pri nepravidelnom využití alebo potrebe najsilnejšej kvality môže vyjsť cloud výhodnejšie. Rozhodnutie závisí od vášho objemu a nárokov na kvalitu.

0 komentárov
Zdieľať

Diskusia

Komentáre sú pred zverejnením moderované.

Zatiaľ tu nie sú žiadne komentáre. Buďte prvý.