Proprietárne AI modely riziko: Nadellovo varovanie

Proprietárne AI modely riziko podľa Satyu Nadellu spočíva v tom, že keď firma postaví svoje schopnosti výlučne na jednom externom modeli, neplatí len peniazmi, ale aj vlastným know-how. Šéf Microsoftu v texte publikovanom v nedeľu (podľa Business Insider) tvrdí, že firma v takom prípade nevlastní konkurenčnú výhodu, ale závislosť. Riešením nie je AI odmietať, ale zmeniť spôsob, akým sa nasadzuje.

Varovanie zaujalo preto, že prišlo od človeka, ktorý predáva prístup k modelom OpenAI cez Azure. Časť komentátorov ho preto číta aj ako obchodnú správu. Na podstate argumentu, ktorý stojí za rozobratie, to však nič nemení.

Čo presne Nadella firmám vyčíta?

Že platia AI poskytovateľom dvakrát. Raz peniazmi za používanie modelu, druhýkrát tým, že model kŕmia svojím najcennejším intelektuálnym vlastníctvom. Tento stav nazval „Reverse Information Paradox^?Nadellov pojem pre stav, keď firma platí za AI dvakrát: peniazmi aj vlastným know-how, ktoré sa model naučí a ktoré sa firme nevráti späť.“: firmy odovzdávajú modelom nielen dáta, ale aj nazbieranú odbornú znalosť, ktorá sa kapitalizuje mimo ich kontroly.

V texte adresovanom „každej firme na svete používajúcej AI“ to formuloval priamo. „The moment you start using a model seriously, you begin handing over the very thing that makes your company valuable,“ píše podľa Times of India. Voľne: v momente, keď model začnete vážne používať, začnete odovzdávať práve to, čo vašu firmu robí hodnotnou.

Prečo hovorí o trójskom koni a „vyprázdnení“ odvetví?

Lebo scenár, ktorého sa obáva, je koncentrácia. Ak väčšina hodnoty z AI skončí v rukách niekoľkých modelov od veľkých laboratórií, tie modely môžu masovo nasávať korporátne znalosti a podľa jeho slov „hollow out entire industries“, teda vyprázdniť celé odvetvia o vlastné know-how.

Business Insider už skôr, v júnovom rozbore, opísal jadro tohto varovania: hrozí, že niekoľko globálnych hráčov zachytí väčšinu ekonomickej hodnoty, zatiaľ čo firmy stratia kontrolu nad svojimi znalostnými systémami. Nie je to výmysel jedného postu; poľské Business Insider Polska a české médiá tému rozobrali podobne.

Ako sa dá AI používať bez odovzdania know-how?

Nadella ponúka päťbodový rámec. Nie je to hotový návod, skôr optika, cez ktorú by malo vedenie posudzovať každý AI zámer. Zhrnuté podľa Amar Ujala a Times of India:

• Control (kontrola). Budovať vlastné evaluačné nástroje, ktoré definujú, čo „dobré“ znamená v konkrétnom kontexte firmy, a ponechať si vlastníctvo pamäte, feedbacku, rozhodnutí a inštitucionálneho kontextu.
• Capability (vlastná kapacita). Vytvárať súkromné prostredia na učenie v rámci vlastnej hranice tenantu, kde sa model dolaďuje na reálne workflowy bez toho, aby znalosti opustili firmu.
• Choice (voľba). Neviazať sa na jeden model. Oddeliť orchestráciu systémov od konkrétneho modelu tak, aby strata jedného dodávateľa neznamenala stratu AI schopností.
• Cost (náklady). Vďaka tomuto oddeleniu párovať úlohy s najvhodnejším a nákladovo efektívnym modelom namiesto platenia za „najväčší“ model tam, kde stačí menší.
• Compound (skladanie hodnoty). Spojením predchádzajúcich princípov vzniká „learning loop^?Interný systém nad modelom, ktorý mení každé použitie AI na dlhodobé aktívum firmy. Podľa Nadellu je práve toto skutočná konkurenčná výhoda, nie samotný model.“, v ktorom sa každé použitie AI stáva interným aktívom firmy.

Tu sa argument otáča do pozitíva. Skutočným aktívom podľa Nadellu nie je model, ale systém nad ním. Kto si tento systém vybuduje, môže model kedykoľvek vymeniť bez straty odbornosti.

Čo to znamená pre rozhodnutie vyvinúť vs. kúpiť?

Že hranica už nevedie medzi „napíšeme si vlastný model“ a „kúpime hotový“. Vedie medzi tým, čo si necháte vo vlastných rukách. Externý model je vymeniteľná komponenta; vaše datasety, evaluačné nástroje a learning loop sú jadrom konkurenčnej výhody. Nadella tlačí vedenia práve k tomuto rozdeleniu.

V praxi je to náročnejšie, než znie. Väčšina firiem nemá kapacitu postaviť vlastné evaluačné nástroje ani súkromné prostredia na dolaďovanie a plné spoliehanie na jeden model je jednoducho lacnejšie na štarte. Tam vzniká napätie, ktoré musí posúdiť vedenie, nie inžinieri. Kto rieši práve toto rozhodnutie a chce mať pod kontrolou reálne náklady počas celého životného cyklu, tomu môže pomôcť jednodňový workshop pre vedenie o tom, kedy AI vyvinúť, kúpiť alebo integrovať, s rozhodovacou maticou pre konkrétny prípad. Užitočný je najmä pre firmy, ktoré stoja pred väčšou investíciou; pre malý pilotný projekt je zbytočný.

Riziko závislosti nie je nová téma. Písal som o ňom aj pri agentových systémoch, ktoré konajú samostatne, kde strata kontroly znamená úplne konkrétne prevádzkové problémy. Nadellov argument to len prenáša na úroveň stratégie.

Treba varovanie brať vážne, keď ho hovorí predajca AI?

Áno, ale s odstupom. ProMarket Nadellov postoj otvorene označil za obchodný pitch: Microsoft ponúka práve infraštruktúru, ktorá firmám sľubuje vlastníctvo dát a možnosť meniť modely. Vlastný záujem ale nerobí argument nesprávnym.

Pre slovenskú firmu z toho plynie triezvy záver. Skôr než sa AI schopnosti postavia na jedinom modeli, oplatí sa oddeliť to, čo je vymeniteľné, od toho, čo je vaše. Kto to spraví hneď na začiatku, ušetrí si neskoršiu bolesť pri výmene dodávateľa. Kto to odloží, môže zistiť, že najcennejšia časť know-how mu už dávno nepatrí len jemu.