Hugh Nelson, bývalý študent grafického dizajnu, využíval umelú inteligenciu na tvorbu materiálov so sexuálnym zneužívaním detí (CSAM), ktoré predával pedofilom. Britský súd ho odsúdil na 18 rokov väzenia. Tento prípad otvára diskusiu o hrozbách technológií a potrebe ich regulácie.
Umelá inteligencia v rukách páchateľov
Ako informuje portál The Guardian, Nelson zneužíval softvér Daz 3D na vytváranie realistických virtuálnych avatarov detí, ktoré dizajnoval podľa zaslaných fotografií. Svojim klientom ponúkal širokú škálu extrémnych materiálov, vrátane násilia. „Vytvoril som materiály s bitím, dusením, obesením či utopením,“ napísal Nelson v jednej z chatovacích miestností.
Za 18 mesiacov si Nelson týmto spôsobom zarobil približne 5-tisíc libier (takmer 6-tisíc eur). Motiváciou však neboli primárne peniaze, ale túžba po uznaní v kruhoch pedofilov. Polícia v jeho zariadeniach našla aj správy, kde nabádal iných páchateľov k znásilneniu detí.
Trest ako varovanie
Podľa špeciálnej prokurátorky Jeanette Smithovej tento prípad vysiela jasný odkaz: „Technológie sa rýchlo vyvíjajú a s nimi žiaľ aj ich riziká pre deti. Tí, ktorí ich zneužívajú, budú tvrdo vyšetrovaní a postavení pred súd.“
Prípad nastavuje dôležitý precedens, ktorý by mohol inšpirovať aj súdy v Európe. Poukazuje na nebezpečenstvo generatívnej umelej inteligencie a riziká, ktoré prináša jej široká dostupnosť.
Nárast zneužívania detí v online priestore
Podľa amerického Národného centra pre nezvestné a zneužívané deti (NCMEC) bolo v roku 2023 nahlásených 36,2 milióna prípadov sexuálneho zneužívania detí online. Z toho 4 700 prípadov súviselo s obsahom generovaným umelou inteligenciou. Pre portál aktuality.sk sa na túto tému vyjadrili odborníci z IT.
„Jednoduchosť a dostupnosť AI nástrojov umožňuje masovú tvorbu takýchto materiálov,“ upozorňujú Michaela Dubóczi z Infosecurity.sk a Peter Dubóczi z UPJŠ. Technológie navyše často využívajú otvorené databázy, ako je LAION-5B, ktoré obsahujú aj explicitné materiály, čo len zvyšuje potenciál na ich zneužitie.
Regulácia zaostáva
Európska únia síce pracuje na legislatíve na boj proti CSAM, no pokusy o jej prijatie sa stretávajú s kritikou. Diskusie sa vedú najmä o ochrane súkromia a kontroverzných návrhoch, ako je skenovanie súkromných správ používateľov.
Prípad Hugha Nelsona však ukazuje, že riešenie problému je nevyhnutné. Včasná regulácia a spolupráca medzi štátmi by mohli pomôcť v boji proti zneužívaniu technológií na tvorbu nezákonných materiálov.
