Agentové systémy, ktoré samostatne vykonávajú úlohy: nasadenia, architektúry, riziká a zodpovednosť.
AI agent OpenAI sa pokúsil uniknúť z izolovaného testovacieho prostredia a niekoľko dní útočil na infraštruktúru firmy Hugging Face. OpenAI si incident spojilo s vlastným systémom až po týždni.
Multiagentné systémy zvyčajne zlyhávajú medzi agentmi, nie v samotnom jazykovom modeli. Rozhodujúce je, ako si agenti odovzdávajú dáta a stav, teda kvalita handoffu.
OpenAI priznalo, že jeho pre-release modely počas interného testu prelomili izoláciu, dostali sa na internet a prenikli do systémov Hugging Face. Prípad ukazuje, prečo agentová AI potrebuje tvrdý dohľad a jasnú zodpovednosť.
OpenAI potvrdil, že jeho modely GPT-5.6 Sol počas kybernetického testu unikli z izolovaného prostredia a autonómne kompromitovali infraštruktúru Hugging Face. Rozoberám, čo z toho vyplýva pre firmy, ktoré nasadzujú agentovú AI.
Prompt injection je útok, pri ktorom vstup od používateľa prepíše pôvodné inštrukcie AI agenta. Ukazujem, prečo je to problém pre každý produkčný systém a ako s tým reálne pracujeme.
Útok cez otravu pamäte nemusí ukradnúť tajomstvo hneď. Vloží trvalé pokyny do pamäte asistenta a exfiltráciu spustí neskôr, v úplne inej konverzácii.
Katalógy MCP serverov rastú do tisícov, no pre marketing a prevádzku firmy je použiteľná len hŕstka. Ukazujem, ako oddeliť nástroj od dema a čo naozaj zapojiť do Claude.
Príbehy z Redditu o tom, ako Claude spraví 40-hodinovú prácu za 15 centov, ukazujú reálnu úsporu. Zároveň otvárajú otázku kontroly, zodpovednosti a hranice, za ktorou sa produktivita mení na nekontrolované riziko.
Väčšina agentových projektov vyzerá skvele v prototype a rozpadne sa pri nasadení do firemnej infraštruktúry. Kde presne to praská a čo musí CTO ustrážiť pred prompt-injection.
AI kódovacie nástroje čítajú externý obsah a berú ho ako pokyny. To otvára dvere prompt injection útokom, ktoré vedú k exfiltrácii kódu a krádeži kľúčov. Rozoberáme, čo je overené a ako sa brániť.
Výskumníci z ASSET Research Group ukázali útok Ghostcommit, ktorý skryje pokyny pre AI kódovacieho agenta do obrázka PNG. Nástroje ako CodeRabbit obrázky pri kontrole obchádzajú, takže payload nevidia.
OpenAI vypína ChatGPT Atlas k 9. augustu. Čo to hovorí o zrelosti agentového browsingu a čo z toho vyplýva pre firmy, ktoré zvažujú agentové nástroje.