Pornografické snímky najslávnejšej hviezdy na svete vygenerované umelou inteligenciou sa tento týždeň rozšírili cez sociálne médiá a podčiarkujú škodlivý potenciál, ktorý predstavuje hlavná technológia AI: jej schopnosť vytvárať reálne pôsobiace fotografie.
Falošné podobizne Taylor Swift sa šírili prevažne na sociálnej sieti X, predtým známej ako Twitter. Fotografie, na ktorých sa speváčka nachádza v sexuálne sugestívnych a explicitných pozíciách, odstránili jednotlivé sociálne platformy až po tom, čo nazbierali desiatky miliónov zhliadnutí. Nič na internete však nie je navždy preč a nepochybne sa budú aj naďalej zdieľať na iných, menej regulovaných kanáloch.
Ako väčšina hlavných platforiem sociálnych médií, aj zásady X zakazujú zdieľanie „syntetických, zmanipulovaných médií alebo médií mimo kontextu, ktoré môžu ľudí oklamať alebo zmiasť a viesť k ujme“.
Incident prichádza v čase, keď sa Spojené štáty blížia k prezidentským voľbám a rastú obavy z toho, ako by sa mohli použiť obrázky a videá generované AI v snahe dezinformačnej scény zasiahnuť do volieb.
„Toto je ukážkový príklad, ako sa AI rozpína z mnohých hanebných dôvodov bez dostatočných zábran na ochranu verejného priestoru,“ povedal Ben Decker, ktorý vedie digitálnu vyšetrovaciu agentúru Memetica.
Decker uviedol, že využívanie generatívnych nástrojov AI na vytváranie potenciálne škodlivého obsahu zameraného na všetky typy verejných činiteľov sa rýchlo zvyšuje a šíri sa na sociálnych médiách rýchlejšie ako kedykoľvek predtým.
„Sociálne médiá v skutočnosti nemajú zavedené efektívne plány na monitorovanie obsahu,“ povedal. Napríklad firma X do značnej miery zredukovala svoj tím na moderovanie obsahu a spolieha sa prevažne na automatizované systémy a hlásenia používateľov.
Aj Meta urobila škrty v tímoch, ktoré sa zaoberajú dezinformáciami a tzv. farmami internetových trollov. Obavy pred kľúčovými voľbami v roku 2024 v USA a na celom svete sa tak stupňujú.
Nie je jasné, odkiaľ pochádzajú generované obrázky Taylor Swift. Našli sa na platformách ako Instagram či Reddit, väčšinou však na sieti X.
„Ak všetky zainteresované strany – AI spoločnosti, firmy vlastniace sociálne médiá, regulačné orgány a občianska spoločnosť – nehovoria o rovnakých veciach a nezhodujú sa v tom, ako riešiť tieto problémy, tento typ obsahu sa bude ďalej rozširovať,“ dodal.
Decker však povedal, že zacielenie na Swift by mohlo upriamiť pozornosť na problém s fotografiami generovanými AI. Speváčkina gigantická fanúšikovská základňa, ktorá si hovorí „Swifties“, tento týždeň vyjadrila na sociálnych médiách svoje rozhorčenie.
„Možno to podnieti zákonodarcov a technologické spoločnosti k akcii, pretože si nemôžu dovoliť, aby proti nim vystupoval miláčik Ameriky,“ povedal.
Tento typ technológie sa už nejaký čas používa na vytvorenie tzv. „porna z pomsty“. Ide o zverejňovanie explicitných obrázkov online bez súhlasu dotyčného. Prípad Taylor Swift praktiku vytiahol opäť do centra pozornosti.
