Suno tréningové dáta: krádež a riziko pre firmy

Únik dát z hacku hudobného generátora Suno ukazuje, že model bol trénovaný scrapovaním miliónov skladieb a textov z YouTube Music, Deezeru a Genius bez licencie. Podľa 404 Media, ktoré materiál analyzovalo, ide o prvý konkrétny pohľad do toho, čo Suno tréningové dáta reálne obsahujú. Pre firmu, ktorá takýto nástroj používa v komerčnej produkcii, sa tým abstraktný spor o autorské práva mení na konkrétne riziko.

Píšem to z pozície človeka, ktorý pri nasadzovaní AI do produkcie musí odpovedať na jednoduchú otázku: kto vlastní to, čo model vyrobí, a čo sa stane, ak sa ukáže, že vstup bol nelegálny. Kauza Suno túto otázku vytiahla na svetlo.

Čo presne odhalili uniknuté Suno tréningové dáta?

Únik ukázal, že Suno pri tréningu stiahlo hudbu, texty a podcasty z platforiem, ktoré na to nedali povolenie. Firma svoje datasety dovtedy nikdy nezverejnila. Podľa reportu The Verge a Variety šlo o milióny skladieb z YouTube Music, Deezeru a Genius.

Suno sa dlhodobo obhajuje tvrdením o fair use^?Právna doktrína (najmä v USA) umožňujúca obmedzené použitie chráneného diela bez licencie; jej platnosť pri tréningu AI je predmetom sporov. a o tréningu na „publicly available music files“. Verejne dostupný však neznamená voľne licencovaný. Skladba na YouTube je verejne dostupná na počúvanie; jej stiahnutie a použitie na tréning komerčného modelu je iná právna kategória.

Prečo je to riziko pre firmu, nielen pre Suno?

Pretože právne riziko sa nezastaví u dodávateľa nástroja. Ak vaša marketingová alebo produktová firma vygeneruje hudbu z modelu, ktorý vznikol z nelicencovaného obsahu, vystavujete sa dvom problémom: sporu o porušenie autorských práv tretej strany a neistote, či vôbec vlastníte to, čo ste vyrobili.

• Copyright spor: ak výstup obsahuje rozpoznateľné prvky chránenej skladby, žalobu môže dostať aj používateľ, nielen tvorca modelu.
• Neisté vlastníctvo: v mnohých jurisdikciách výstup čisto strojovo generovaného obsahu nemusí byť chránený autorským právom, takže ho nemôžete ani exkluzívne vlastniť.
• Zmluvné krytie: väčšina dodávateľov generatívnej AI garancie za porušenie práv tretích strán obmedzuje alebo vylučuje.

Toto nie je hypotetické. Pri nasadzovaní AI do produkcie počítame s tým, čo sa stane, keď nástroj urobí chybu. Pri hudbe je tou chybou žaloba od nahrávacej spoločnosti.

Ako má firma preveriť pôvod tréningových dát pred nasadením?

Skôr než dáte nástroj do produkcie, žiadajte od dodávateľa písomné odpovede na pár konkrétnych vecí. Ak ich neposkytne, riziko preberáte vy.

1. Odkiaľ pochádzajú tréningové dáta a existuje na ne licencia?
2. Poskytuje dodávateľ odškodnenie (indemnity^?Zmluvná záruka, že dodávateľ pokryje škody a náklady, ak výstup nástroja poruší práva tretej strany.) za spory o autorské práva tretích strán?
3. Aké práva na výstup zmluva používateľovi priznáva?
4. Vie dodávateľ preukázať pôvod dát, alebo sa iba odvoláva na fair use?

Táto disciplína pri overovaní nie je nová. Rovnako opatrne treba pristupovať aj k tvrdeniam samotných modelov, ako sme písali pri halucináciách web searchu pri GLM 5.2. Overenie v prevádzke je vždy lacnejšie než odstraňovanie škody.

Ak vo firme riešite, kto zodpovedá za právne riziko AI a ako klasifikovať jednotlivé systémy podľa regulácie, oplatí sa začať systematicky. Praktický jednodňový program o EÚ AI Act pre vedenie, ktorý mapuje, kde vaše AI systémy stoja a čo treba dokumentovať, dáva vedeniu konkrétny compliance plán namiesto právnického prehľadu. Nie je to pre tímy, ktoré AI len testujú v pieskovisku; má zmysel, keď už nástroje bežia komerčne a hrozia pokuty.

Znamená to, že sa generatívnej AI treba vyhnúť?

Nie. Znamená to vyberať nástroje podľa pôvodu dát a zmluvných garancií, nielen podľa kvality výstupu. Modely trénované na licencovanom alebo vlastnom obsahu existujú a pri komerčnom nasadení sú bezpečnejšia voľba, aj keď výstup môže byť o niečo slabší.

Otázka, ktorú si kladiem pri každom takom nástroji, je jednoduchá: čo by musel splniť, aby sa riziko oplatilo. Pri internom prototype, ktorý nikto nezverejní, je tolerancia vyššia. Pri obsahu, ktorý ide do platenej kampane alebo produktu, je odpoveď prísnejšia. Podobnú hranicu rizika sme rozoberali pri automatizácii práce pomocou AI.

Kauza Suno nie je o jednej firme. Je pripomienkou, že „publicly available“ a „legálne použiteľné“ sú dve rôzne veci, a že za tento rozdiel pri komerčnom použití zaplatí ten, kto nástroj nasadil.