Zodpovednosť za AI výstupy: žaloba proti OpenAI

Zodpovednosť za AI výstupy sa práve presúva zo seminárnych diskusií na súd. Muž z Floridy žaluje OpenAI za rady, ktoré mu podľa neho dal ChatGPT a ktoré oddialili liečbu takmer smrteľnej pľúcnej embólie. Prípad neurčí len osud jedného chatbota. Každej firme, ktorá púšťa jazykový model k zákazníkom, ukazuje, kde končí neškodný experiment a začína právne riziko.

Podľa žaloby podanej na Superior Court of California v San Franciscu 55-ročný pastor Scott Winters tvrdí, že ChatGPT jeho príznaky opakovane označoval za „niečo, čo nie je nebezpečné“ a nabádal ho, aby nevyhľadal lekára. Text žaloby uvádza, že systém sa správal s „autoritou a sebavedomím lekára“, hoci nemá kvalifikáciu posúdiť klinický stav. Informoval o tom MobileSyrup a ďalšie médiá 23. júla 2026. Žaloba smeruje proti OpenAI aj proti CEO Samovi Altmanovi.

Čo prípad tvrdí a čo naň odpovedá OpenAI

Jadro sporu je jednoduché: zákazník sa spoľahol na to, čo mu AI povedala, a takmer za to zaplatil životom. OpenAI pre médiá zdôraznila, že ChatGPT nie je určený na diagnostiku ani liečbu chorôb a že podmienky používania výslovne hovoria, že nenahrádza zdravotníka. To potvrdil Infobae vo svojom článku.

Ako sa spor procesne posunul po 23. júli 2026, verejne známe nie je. Nie sú dostupné nové súdne podania ani ďalšie vyjadrenia. Vieme, aký je stav podania a mediálneho ohlasu, nie výsledok konania.

Nejde pritom o ojedinelý prípad. V USA prebieha aj séria žalôb rodičov, ktorí vinia ChatGPT z podpory bludov či nabádania k samovražde; písal o nich Deník N. Po tragickej smrti tínedžera OpenAI zaviedla upozornenia pre citlivé témy. Vzorec sa opakuje: model hovorí sebavedomo, používateľ mu verí, škoda vznikne mimo obrazovky.

Prečo podmienky používania firmu nezachránia

Doložka „toto nie je lekárska rada“ je nutná, ale sama osebe slabá obrana. Súd sa nepýta, čo je napísané v odseku 14 podmienok, ktoré nikto nečíta. Pýta sa, čo systém reálne povedal a či to používateľ mohol rozumne pochopiť ako odporúčanie. Keď AI v konverzácii poskytuje konkrétne uistenie o zdravotnom stave, disclaimer^?Právne upozornenie, ktoré obmedzuje zodpovednosť poskytovateľa, napríklad že chatbot nenahrádza lekára. Samo osebe firmu pred žalobou nechráni. schovaný inde ju nezbaví váhy tvrdenia.

Pre slovenskú a českú firmu je to praktická otázka, nie americká exotika. Ak váš chatbot radí zákazníkom o liekoch, financiách, zmluvách alebo bezpečnosti, ručíte za to, čo povie. O riziku rozhodujú tri veci:

• Doména odpovedí. Čím bližšie k zdraviu, peniazom alebo právu, tým vyššia latka a tým skôr treba tvrdý stop.
• Tón výstupu. Model, ktorý znie ako odborník, vytvára dôveru, ktorú neuveze. Sebavedomie bez kvalifikácie je práve to, čo žaloba vyčíta.
• Kto je na príjme, keď to zlyhá. Ak na to nemáte odpoveď pred nasadením, nemáte ju ani pri incidente.

Kto sedí v predstavenstve alebo dozornej rade, mal by vedieť, kde firma pri autonómnych AI rozhodnutiach ručí. Presne na tento posun cieli poldenný workshop o dohľade a právnej zodpovednosti štatutárov za agentovú AI, ktorý vedú inžinieri nasadzujúci takéto systémy v praxi. Oplatí sa pozrieť, ak vaše systémy už schvaľujú alebo radia bez priameho ľudského zásahu; ak len testujete chatbota na interné FAQ, je to zatiaľ predčasné.

Zodpovednosť za AI výstupy v EÚ má už konkrétne termíny

Regulácia v Európe nečaká na výsledok amerického sporu. Povinnosť AI gramotnosti podľa článku 4 AI Act^?Nariadenie EÚ o umelej inteligencii. Stanovuje povinnosti podľa miery rizika systému, vrátane gramotnosti, dokumentácie a označovania. platí od 2. februára 2025; zamestnanci, ktorí s AI pracujú, jej musia rozumieť. Pokuty za vážne porušenia siahajú až do 35 miliónov eur alebo 7 % obratu. Od augusta 2026 pribúda povinné označovanie AI chatbotov, o ktorom sme písali v článku o nových pravidlách pre označovanie chatbotov.

Kombinácia je jasná: používateľ musí vedieť, že hovorí so strojom, a firma musí vedieť preukázať, ako svoj systém riadi. Disclaimer nestačí. Regulátor aj súd sa pýtajú na dokumentáciu, klasifikáciu rizika a menovanú zodpovednú osobu.

Ako riziko obmedziť skôr, než príde incident

Bezpečná architektúra nezačína pri modeli, ale pri rozhodnutí, na čo odpovedať nesmie. V praxi to znamená vopred definovať zakázané domény a mať v systéme tvrdú brzdu, nie zdvorilé upozornenie. Osvedčené kroky:

1. Zoznam tém so stop-pravidlom. Zdravie, dávkovanie liekov, akútne príznaky, právne a finančné rozhodnutia: pri nich model neposkytuje radu, ale odkáže na človeka alebo lekára.
2. Detekcia rizikových vstupov. Ak používateľ opisuje príznaky alebo krízu, konverzácia sa presmeruje, nedopĺňa sa ďalšou radou.
3. Human-in-the-loop^?Postup, pri ktorom výstup AI pred použitím schvaľuje alebo kontroluje človek, najmä pri rozhodnutiach s vysokou cenou chyby. pri vysokej stávke. Kde je cena chyby vysoká, výstup schvaľuje človek. Cron a jedno API volanie nikoho nezabijú, sebavedomý model bez brzdy áno.
4. Log a audit. Musíte vedieť spätne ukázať, čo systém povedal a prečo. Bez záznamu neobhájite nič.

To najdrahšie na AI nie je model, ale to, čo urobí, keď mu uveríte. Prípad z Floridy nie je o zlom chatbote. Je o firmách, ktoré púšťajú sebavedomý model k ľuďom a dúfajú, že veta v podmienkach ich ochráni. Neochráni. Zoberte si dnes zoznam tém, pri ktorých vaša AI musí mlčať, a napíšte k nim tvrdý stop.