Testovanie AI modelov: DeepMind chce globálny dohľad

Šéf Google DeepMind Demis Hassabis predstavil návrh na nový medzinárodný orgán, ktorého úlohou by bolo testovanie AI modelov ešte predtým, než sa dostanú na trh. Podľa CNBC má ísť o nezávislú štandardizačnú inštitúciu vedenú Spojenými štátmi, ktorá by robila prísne previerky najpokročilejších takzvaných frontier modelov. Zatiaľ je to lobistická iniciatíva, nie schválená politika. Pre firmy je to však signál, kam sa regulácia posúva ďalej než EÚ AI Act.

Hassabis zverejnil svoj zámer v texte s názvom „A Framework for Frontier AI and the Dawning of a New Age“, ktorý TechCrunch opisuje ako jeho doteraz najkonkrétnejší regulačný plán. Volá v ňom po urgentnom konaní v súvislosti s rizikami pokročilej AI a možnej AGI^?Všeobecná umelá inteligencia, hypotetický systém s ľudskou úrovňou schopností naprieč rôznymi úlohami..

Ako by malo prebiehať testovanie AI modelov podľa Hassabisa?

Frontier laboratóriá by najprv dobrovoľne odovzdávali modely na testovanie až 30 dní pred vydaním. Po overení protokolov by sa režim formalizoval a pre nasadenie na americký trh by boli pre-release testy povinné. Orgán by pomáhal aj s riešením kritických zraniteľností, ktoré sa objavia po vydaní modelu.

Konkrétne oblasti, ktoré by previerky pokrývali, uvádza The Deep View:

• kybernetická bezpečnosť,
• biologické hrozby,
• schopnosť modelu klamať (deception),
• agentické schopnosti^?Schopnosť AI konať samostatne, teda vykonávať úlohy, rozhodovať a spúšťať akcie bez priameho ľudského zásahu pri každom kroku. a národno-bezpečnostné riziká.

Orgán navrhuje Hassabis vytvoriť podľa vzoru FINRA^?Americký finančný regulátor fungujúci ako samoregulačná organizácia pod federálnym dohľadom; Hassabis ho použil ako vzor pre navrhovaný orgán., teda finančného regulátora, ktorý funguje ako federálne dohliadaná samoregulačná organizácia. Financovaný by mal byť najmä z priemyslu, s dostatočným rozpočtom na to, aby prilákal špičkových odborníkov a zabezpečil výpočtový výkon na náročné testy.

Čím sa to líši od EÚ AI Act, ktorý už platí?

EÚ AI Act reguluje AI podľa miery rizika a kladie povinnosti na poskytovateľov aj používateľov. Hassabisov návrh mieri užšie: na hŕstku najvýkonnejších modelov a na fázu ešte pred ich vydaním. Ide o pre-release schvaľovanie, ktoré dnes v európskom rámci v tejto podobe nie je.

Rozdiel má praktický dopad. Kým povinnosť AI gramotnosti podľa článku 4 AI Act platí pre firmy v EÚ už od 2. februára 2025, Hassabisov orgán by cielil na vývojárov modelov, nie na bežné podniky, ktoré AI len používajú. Podľa Axios chce, aby pravidlá platili pre frontier modely^?Najvýkonnejšie a najpokročilejšie AI modely na hranici súčasných možností, ktoré nesú aj najväčšie potenciálne riziká. nezávisle od krajiny pôvodu a od toho, či sú open alebo closed source.

Pre firmy, ktoré si potrebujú ujasniť, čo z platnej európskej regulácie na ne dopadá už dnes a odkedy, môže byť užitočný jednodňový workshop k EÚ AI Act pre vedenie, ktorý prejde klasifikáciu rizík a povinnosti dokumentácie. Hodí sa najmä tam, kde vedenie ešte nemá jasno, ktoré interné AI systémy vôbec podliehajú regulácii. Nie je to školenie pre vývojárov modelov; skôr pre štatutárov a compliance, ktorí potrebujú operatívny plán, nie právnický prehľad.

Kto plán podporuje a čo mu zatiaľ chýba?

Reakcie konkurencie boli opatrne pozitívne. Podľa Bloombergu Sam Altman z OpenAI označil návrh za „thoughtful“ a Elon Musk ho opísal ako „a good starting point for discussions“. Bloomberg tiež uvádza, že Hassabis plánuje sériu stretnutí vo Washingtone s americkými tvorcami politík; táto informácia pochádza z anonymného zdroja.

Chýba to podstatné: formálne prijatie. Žiadny zo zdrojov nepotvrdzuje, že by americká vláda, Kongres alebo medzinárodná organizácia návrh posunuli do legislatívneho procesu. Nie je zverejnené znenie zákona ani medzivládnej dohody. Ide o politicko-regulačný návrh a lobing.

Sám Hassabis pre Economic Times pripúšťa, že medzinárodná spolupráca je v súčasnom geopolitickom kontexte ťažká. Časový plán opísal ako agresívny: orgán by mal byť podľa Axios funkčný ešte pred koncom roka.

Čo z toho vyplýva pre slovenské firmy?

Priamy dopad na bežnú slovenskú firmu je zatiaľ nulový. Ak nevyvíjate frontier modely, tento orgán by sa vás priamo netýkal. Nepriamy dopad však stojí za sledovanie: ak by sa pre-release testovanie^?Previerka modelu ešte predtým, než sa dostane k používateľom, s cieľom odhaliť riziká pred nasadením. presadilo v USA, mohlo by ovplyvniť, kedy a v akej podobe sa nové modely dostanú do produktov, ktoré firmy používajú.

Praktické závery, ktoré si z návrhu odnášam:

1. Regulačný tlak sa presúva aj na fázu pred vydaním modelu, nielen na jeho používanie.
2. Dôraz na agentické schopnosti a klamanie kopíruje reálne riziká, na ktoré firmy narážajú pri nasadení AI agentov v produkcii.
3. Compliance nad rámec EÚ AI Act sa stáva témou, aj keď zatiaľ len ako návrh.

Práve agentické systémy sú miesto, kde sa dnes láme zodpovednosť. Kto o téme uvažuje z pohľadu vedenia, nájde súvislosti v našom texte o tom, prečo AI agenti padnú až za pilotom. Ak riešite priamo právnu zodpovednosť štatutárov za autonómne rozhodnutia AI, k dispozícii je aj poldňový workshop o dohľade a governance nad agentovými systémami pre štatutárov a dozorné orgány. Zmysel má tam, kde už agentová AI schvaľuje alebo nakupuje bez priameho ľudského zásahu.

Zatiaľ platí triezvy záver: je to návrh, nie pravidlo. Sledovať ho oplatí najmä preto, že ukazuje smer, ktorým sa regulácia frontier modelov chce uberať. Formálne rozhodnutie ešte nepadlo.