Zodpovednosť za AI: žaloby proti ChatGPT ako varovanie

Zodpovednosť za AI sa v Kalifornii práve teraz rieši na súde. Skupina žalobcov sa snaží procesne spojiť osem žalôb proti OpenAI, ktoré tvrdia, že ChatGPT prispel k vážnym ujmám na zdraví používateľov až k ich smrti. Súd o spojení podľa dostupných dokumentov zatiaľ právoplatne nerozhodol, prebieha len návrh na koordináciu. Pre firmy, ktoré AI nasadzujú, je to napriek tomu jasné varovanie.

Nechcem preháňať to, čo sa deje. Novinové titulky hovoria o „spojení desiatky žalôb“, no realita je striezlivejšia. Najprv preto oddelím fakty od dojmu.

Čo sa v Kalifornii naozaj deje?

Právni zástupcovia žalobcov podali návrh na koordináciu ôsmich produktovo-právnych prípadov proti OpenAI. Odvolávajú sa na California Rule of Court 3.400(c) a CCP § 404 a žiadajú, aby sa veci viedli ako komplexné konanie. Ide o procesný krok, nie o rozsudok.

Návrh spája prípady so spoločným menovateľom: žalobcovia tvrdia, že ChatGPT spôsobil alebo významne prispel k vážnym fyzickým aj duševným ujmám. Podľa dokumentu ide o „spotrebiteľov zranených alebo zabitých používaním generatívneho AI produktu ChatGPT“. Súd o vyhovení návrhu zatiaľ verejne nerozhodol.

Kontext dokresľujú staršie správy. Reuters v máji 2026 opísal žalobu rodičov po smrteľnom predávkovaní. Ďalšie prípady sa týkajú samovraždy dcéry, ktorú mal chatbot podľa žaloby povzbudzovať, a muža, ktorému mal ChatGPT posilňovať paranoju. OpenAI v prípade kalifornského tínedžera argumentovala, že používateľ porušil pravidlá služby.

Prečo je zodpovednosť za AI otázka pre štatutárov, nie len pre právnikov?

Lebo právne rámce zaobchádzajú s AI ako s produktom aj so službou zároveň. Ak žalobca dokáže, že systém funguje ako „vadný produkt“, zodpovednosť sa presúva na toho, kto ho uviedol do používania. Vo firemnom nasadení to nie je OpenAI, ale vaša spoločnosť.

V praxi to znamená, že keď postavíte chatbota nad cudzí model a nasadíte ho na zákazníkov, za jeho výstupy zodpovedáte vy. Dodávateľ modelu vám zmluvne prenesie väčšinu rizika. Tento bod na predstavenstvách stále podceňujem, keď o ňom čítam v médiách: nikto vás nezachráni tým, že „to napísala AI“.

Zo skúsenosti s nasadzovaním agentových systémov viem, že najlacnejším poistením je architektúra. Keď systému dáme nástroj, počítame s tým, čo sa stane, keď ho použije zle. Čítať smie sám, no zapisovať a konať navonok až po potvrdení človekom. Nudné, ale funguje.

Čo si z toho má firma odniesť do praxe?

Séria žalôb proti OpenAI ukazuje, že nejde o ojedinelý incident, ale o vzorec. To mení riadenie rizika z akademickej debaty na operatívnu úlohu. Odporúčam začať štyrmi krokmi.

• Zmapujte, kde AI koná bez človeka. Ktoré výstupy idú priamo k zákazníkovi alebo do systému bez kontroly?
• Nastavte tvrdé hranice. Citlivé témy (zdravie, financie, právo) patria za bezpečnostné filtre alebo úplne mimo dosah bota.
• Prečítajte si dodávateľské zmluvy. Kde je hranica zodpovednosti medzi vami a poskytovateľom modelu? Zvyčajne je posunutá vo váš neprospech.
• Dokumentujte rozhodnutia. Kto schválil nasadenie, aké riziká sa zvažovali, aké opatrenia platia.

Ak riešite práve autonómne AI, ktoré rezervuje, schvaľuje alebo komunikuje bez ľudského zásahu, oplatí sa vedeniu prejsť si poldňový workshop o dohľade a právnej zodpovednosti štatutárov za agentovú AI. Vedú ho ľudia, ktorí takéto systémy reálne nasadzujú, takže dôraz je na tom, čo skutočne overiť, nie na teórii. Nie je pre firmy, ktoré AI zatiaľ len skúšajú v pieskovisku.

Ako to súvisí s reguláciou v EÚ?

Kalifornské spory sa vedú podľa amerického práva, no logika zodpovednosti je podobná aj v Európe. EÚ AI Act^?Nariadenie EÚ, ktoré reguluje AI podľa miery rizika a ukladá firmám povinnosti vrátane AI gramotnosti a dokumentácie. zavádza povinnosti podľa miery rizika systému a povinnosť AI gramotnosti platí od 2. februára 2025. Pokuty siahajú až do 35 miliónov eur alebo 7 % obratu.

Kto chce vedieť, kde jeho firma podľa AI Act stojí a čo dokumentovať, nájde praktický základ v jednodňovom programe o AI Act a governance pre vedenie. K širšiemu kontextu odporúčam aj náš rozbor toho, čo z amerických AI zákonov platí aj pre firmy v EÚ.

Kedy má zmysel byť skeptický k titulkom?

Vždy, keď titulok tvrdí viac než spisy. „Súd spojil desiatku žalôb“ znie ako rozsudok, pritom ide o návrh na procesnú koordináciu ôsmich vecí, o ktorom súd zatiaľ verejne nerozhodol. Žiadny nový precedens o zodpovednosti za AI z Kalifornie v týchto dňoch nevyplýva.

Moje triezve odporúčanie: neriaďte sa titulkami, ale spismi a vlastnou architektúrou. Zodpovednosť za AI nie je téma, ktorá sa vyrieši rozsudkom v San Franciscu. Vyrieši sa tým, ako svoje systémy postavíte a čo im dovolíte robiť bez človeka. Ak necháte AI konať navonok bez kontroly, riziko nesiete vy; a to platí dnes, nech spor v Kalifornii dopadne akokoľvek.