GPT-Red od OpenAI: LLM-hacker na test obrany AI

GPT-Red od OpenAI je interný model, ktorého jedinou úlohou je útočiť na iné modely, hľadať v nich diery a nútiť ich, aby sa správali proti pravidlám. OpenAI ho predstavil 15. júla 2026 a použil na tréning novej verzie GPT-5.6. Firma tvrdí, že tým dosiahla svoj doteraz najodolnejší model voči injekcii promptov.

Znie to ako nástroj čisto pre laboratóriá OpenAI. V praxi z toho ale vyplýva niečo, čo sa týka každého, kto nasadzuje AI do firmy: aj špičkový model sa dá zlomiť a testovanie obrany nie je jednorazová vec.

Čo je GPT-Red od OpenAI a ako pracuje?

GPT-Red je podľa OpenAI „our current best automated safety red-teaming^?Cielené útočenie na systém, aby sa našli jeho slabiny skôr než ich objaví skutočný útočník. model“, teda automatizovaný útočník na preverovanie bezpečnosti. Princíp je jednoduchý: pošle modelu prompt, sleduje odpoveď a podľa nej iteratívne upravuje ďalší útok. Robí to v obrovskom rozsahu a bez ľudského operátora pri každom pokuse.

Podľa popisu na The Verge je na konci tréningu GPT-Red „a very strong attacker“, ktorý „can break nearly all models it is pitted against“. OpenAI uvádza, že prelomil aj interné a produkčné modely až po GPT-5.5.

Prečo je prompt injection stále problém aj pri silných modeloch?

Injekcia promptov je útok, pri ktorom zákerný text prinúti model ignorovať pôvodné pokyny a urobiť niečo iné: prezradiť dáta, spustiť nechcenú akciu, obísť pravidlá. To, že OpenAI musel postaviť samostatného útočníka, je priznanie, že tento typ útoku sa nedá vyriešiť jedným tréningovým prechodom.

OpenAI tvrdí, že po tréningu proti GPT-Red zlyháva GPT-5.6 Sol len v 0,05 % priamych prompt-injection útokov generovaných týmto modelom. Číslo vyzerá dobre, no platí voči útokom jedného konkrétneho testera. Reálny útočník vo firme vyzerá inak a útočí na vaše dáta, nie na benchmark.

Ak vás zaujíma mechanika samotného útoku, rozpísal som ju v článku o tom, ako prompt injection ohrozuje kódovacie nástroje. Tam vidno, prečo je táto zraniteľnosť taká zákerná: útok príde cez obsah, ktorý model spracúva, nie cez vstup od používateľa.

Práve tu sa oplatí byť opatrný pri nasadení. Ak staviate RAG^?Retrieval-Augmented Generation: architektúra, kde model odpovedá na základe vyhľadaných dokumentov, nielen z toho, čo sa naučil pri tréningu. systém alebo agenta, ktorý číta externé dokumenty a maily, riešite presne to isté, čo OpenAI simuluje cez GPT-Red. Pre tímy, ktoré prototyp posúvajú do produkcie, sme postavili dvojdňový workshop o produkčnej RAG a agentových architektúrach s dôrazom na správu kontextu a bezpečnosť. Nie je to kurz pre úplných začiatočníkov; je pre CTO a architektov, ktorí už majú niečo bežať a potrebujú to spraviť spoľahlivo.

Stačí GPT-Red na zabezpečenie AI?

Nie, a OpenAI to hovorí sám. Firma prezentuje GPT-Red ako doplnok, nie náhradu. Podľa blogu OpenAI ho bude naďalej kombinovať s ľudským a treťostranným red-teamingom, viacvrstvovou obranou a monitoringom v reálnom čase.

To je najdôležitejší odkaz pre firmy. Automatizovaný útočník nájde veľa slabín rýchlo, ale nepokrýva všetko. Bezpečné nasadenie AI stojí na viacerých vrstvách:

• oddelenie dôveryhodných pokynov od nedôveryhodného obsahu, ktorý model číta,
• obmedzenie práv agenta, aby nemohol vykonať citlivú akciu bez kontroly,
• logovanie a monitoring odpovedí, aby ste odchýlku zachytili včas,
• opakované adversariálne testovanie, nie jednorazová kontrola pred spustením.

Kto tento zoznam ignoruje, riskuje presne to, čo sme videli pri úniku kódu cez AI nástroj Grok Build: nástroj robil viac, než mal, a nikto to nestrážil.

Čo z toho plynie pre slovenskú firmu v praxi?

Ak nasadzujete AI, ktorá číta externé dáta alebo koná za používateľa, berte injekciu promptov ako reálne riziko, nie ako teóriu. GPT-Red je dôkaz, že aj OpenAI potrebuje na svoje modely tvrdého útočníka. Vaše nasadenie nie je odolnejšie než ich modely.

Praktický postup je triezvy. Otestujte svoj systém adversariálne ešte pred produkciou. Nespoliehajte sa na to, že model dodávateľa je „bezpečný“; číslo 0,05 % platí pre laboratórium OpenAI, nie pre vašu integráciu. Ak nemáte interne ľudí na takýto review, existuje aj možnosť externého technického posúdenia AI architektúry vrátane bezpečnostných a compliance medzier; má zmysel najmä vtedy, keď systém už spracúva citlivé dáta a chcete nezávislý pohľad na riziká.

GPT-Red je zaujímavý technický krok. Pre firmu z neho ale neplynie pokoj, skôr pripomienka: obrana AI je priebežná práca a testovať treba vlastné nasadenie, nie veriť benchmarkom dodávateľa.