Únik kódu cez AI nástroj: Grok Build nahrával repozitáre

Únik kódu cez AI nástroj prestal byť teoretickou hrozbou. Výskumníci z tímu cereblab 13. júla 2026 zdokumentovali, že kódovacie CLI Grok Build od SpaceXAI (predtým xAI) ticho balilo celý Git repozitár používateľa a odosielalo ho do úložiska Google Cloud, vrátane histórie commitov a súborov .env^?Súbor s citlivými konfiguračnými hodnotami, typicky API kľúčmi a heslami k databáze. Nemal by opustiť lokálne prostredie. s API kľúčmi a databázovými heslami. Firma dotknuté uploady po zverejnení pozastavila, no otázka dôvery ostáva.

Na tomto prípade nejde o okrajovú chybu. Šlo o systematické správanie nástroja, ktorý sa navonok prezentoval ako „local-first“. A práve to je pre vývojové tímy najnepríjemnejšie zistenie.

Čo presne Grok Build robil s kódom firiem?

Grok Build CLI balil celý Git repozitár do takzvaného Git bundle^?Jeden súbor, do ktorého sa dá zabaliť celý Git repozitár aj s históriou commitov na prenos alebo zálohu. a odosielal ho cez endpoint /v1/storage do bucketu grok-code-session-traces na Google Cloud Storage. Odchádzali všetky sledované súbory, kompletná história commitov aj obsah .env v nezamaskovanej podobe. Podľa analýzy cereblab sa odosielali aj súbory, ktoré model nikdy neotvoril.

• Celé repozitáre vrátane súborov mimo aktuálnej úlohy.
• História commitov, teda aj tajomstvá, ktoré niekto v minulosti zmazal, no ostali v histórii.
• Secrets^?Tajné prístupové údaje ako API kľúče, tokeny a heslá, ktoré umožňujú prístup k systémom a službám. z .env: API kľúče a databázové heslá v čistej podobe v tele požiadaviek POST /v1/responses.

Výskumníci uvádzajú extrémny nepomer medzi dátami použitými na odpoveď a dátami odoslanými do cloudu. Pri experimente s repozitárom veľkým približne 11,2 GiB sa odoslalo minimálne 5,10 GiB dát, hoci na samotnú inferenciu stačilo len okolo 192 KiB. Je to pomer rádovo 27 800 : 1, ako potvrdil aj nadväzujúci technický report.

Prečo je únik kódu cez AI nástroj taký nebezpečný pre firmy?

Vývojové repozitáre bývajú tou najcitlivejšou vecou, ktorú firma má. Obsahujú API kľúče, databázové heslá, nepublikované funkcie a obchodný kód. Keď takýto obsah odíde do cudzieho cloudu bez vedomia tímu, riziko úniku informácií je okamžité a ťažko vratné, pretože secrets treba považovať za kompromitované.

Najviac zaráža jeden detail. V teste, kde používatelia vypli voľbu „Improve model“, teda zdieľanie dát na zlepšovanie modelu, CLI aj tak nahralo kompletný repozitár a server vracal trace_upload_enabled: true. Vypnutie zdieľania teda nezabránilo odchodu kódu z lokálneho stroja. Presne v takom prípade nastavenie súkromia vytvára falošný pocit istoty.

Ak vo firme zvažujete nasadenie agentického AI nástroja do produkčných repozitárov, oplatí sa najprv poznať otázky, ktoré treba položiť dodávateľovi a architektúre. Praktický rámec na to dáva externý technický review AI architektúry vrátane bezpečnostných a compliance medzier; má zmysel vtedy, keď systém pracuje s citlivým kódom a chcete odhaliť riziká, ktoré interný tím nevidí. Nie je to lacná položka a pre malý prototyp bez citlivých dát je zbytočná.

Ako Grok Build obchádzal nastavenia súkromia?

Nástroj obchádzal očakávania založené na „local-first“ komunikácii. Launch materiály xAI opisovali Grok Build tak, že do cloudu má ísť len nevyhnutný kontext a že credentials, secrets a súbory ignorované cez .gitignore majú byť štandardne vylúčené. Prax bola iná: odosielali sa celé repozitáre aj s históriou a secrets bez maskovania.

Testy podľa dostupných reportov ukázali, že z uploadovaného balíka sa dal kompletne obnoviť aj testovací súbor, ktorý modelu explicitne povedali nečítať. Obsah .env sa archivoval v session_state a nahrával cez /v1/storage. Ide o dokumentované systémové obchádzanie kontrol súkromia, nie o jednorazovú anomáliu.

Podobný vzorec obchádzania kontrol sme na tomto webe rozoberali pri inom type útoku, keď škodlivé PNG obídu review AI kontrolórov kódu. Spoločným menovateľom je, že bezpečnostné kontroly vidíme ako zapnuté, no v skutočnosti nefungujú tak, ako predpokladáme.

Čo urobil SpaceXAI po zverejnení a čo zostáva neoverené?

Po publikovaní zistení výskumníci zopakovali testy a upload repozitárov prestal fungovať; zmena sa pripisuje serverovej konfigurácii SpaceXAI. Firma vydala stanovisko k režimu „zero data retention^?Režim, pri ktorom poskytovateľ deklaruje, že neuchováva žiadne dáta z vašich relácií ani kód. Skratka ZDR.“ (ZDR): pri zapnutom ZDR sa nemajú uchovávať žiadne run traces ani dáta kódu, a to aj pri používaní cez API kľúč.

• Pre tímy bez ZDR možno v CLI zadať príkaz /privacy na vypnutie uchovávania dát.
• SpaceXAI tvrdí, že týmto príkazom sa majú zmazať aj predtým synchronizované dáta.
• Používateľ vraj môže cez ten istý príkaz kedykoľvek skontrolovať nastavenia súkromia.

Zatiaľ je to jednostranné tvrdenie firmy. Podľa dostupných reportov po 13. júli 2026 nezávislé overenie, že historické dáta skutočne zmizli z GCS bucketu, zdokumentované nie je. Grok Build je naďalej opisovaný ako early beta s obmedzeným prístupom.

Aké ponaučenie z toho plynie pre vývojové tímy?

Samotné nastavenie „nepoužívať dáta na tréning“ nemusí stačiť na to, aby kód neopustil vaše zariadenie. To je hlavná lekcia. Pred nasadením agentického AI nástroja do repozitára s produkčným kódom treba jeho sieťovú komunikáciu overiť, nielen prečítať marketingový popis.

1. Odsledujte, čo nástroj naozaj odosiela, ideálne cez zachytávanie sieťovej prevádzky na testovacom repozitári.
2. Overte správanie aj v režimoch marketovaných ako „local-first“ alebo „privátne“.
3. Držte secrets mimo repozitára a rotujte kľúče, ak ste nástroj používali.
4. Zaveďte pravidlo, že nový AI nástroj neuvidí produkčný kód, kým neprejde auditom.

Pri riadení inžinierskych tímov s AI platí rovnaký princíp ako pri každom externom dodávateľovi: dôvera bez overenia je riziko. Ak vediete vývoj a chcete tieto témy zvládnuť prakticky, od RAG v produkcii po QA a bezpečnosť AI systémov, prehľad dáva program Vedenie inžinierskych tímov s podporou AI pre CTO a vedúcich vývoja. Užitočný je vtedy, keď už AI nasadzujete do reálneho prostredia, nie keď len experimentujete.

Pre slovenského používateľa a firmy z toho plynie triezvy záver. AI kódovacie nástroje šetria čas, no vývojový repozitár je príliš citlivý na to, aby ste jeho osud zverili tlačovej správe. Overte, čo odchádza z vášho stroja, skôr než nástroj pustíte na ostrý kód.