„V dôsledku rozmachu umelej inteligencie zohráva obsah vytvorený alebo upravený umelou inteligenciou rolu aj v rôznych podvodoch a v šírení dezinformácií,“ pripomenul vo svojom článku novinár Max Gilbert zo spravodajského kanálu BR24 bavorského telerozhlasu Bayerischer Rundfunk. Gilbert vyštudoval politológiu a komunikáciu, v BR24 sa venuje problematike dezinformácií a ich odhaľovaniu.
Umelá inteligencia sa neustále vyvíja a zlepšuje v generovaní falošného mediálneho obsahu. Gilbert upozorňuje, že aj keď podvrhy vytvorené umelou inteligenciou tvoria stále ešte len malú časť všetkých podvrhov na internete vrátane sociálnych sietí, takýto obsah dokáže oklamať a očierniť a preto je potrebné ho odhaľovať.
Nemecký novinár preto zostavil niekoľko rád a odporúčaní, ktoré aj bežným užívateľom internetu môžu pomôcť rozpoznať podvrhy. „Nástroj Fact Check Tools umožňuje rozpoznať obrázky AI, deepfakes a hlasové klony,“ znie jedno z praktických odporúčaní.
Texty: Zamerajte sa na obsah
Pomocou programov umelej inteligencie ako napríklad ChatGPT možno texty vytvárať rýchlo a pohodlne, konštatuje Gilbert. „Stačí jednoduchý textový príkaz s inštrukciami, o čom má text byť, čo má obsahovať a akým štýlom má byť napísaný.“ Takto sa vytvárajú zavádzajúce články alebo texty napríklad pre falošné profily na sociálnych sieťach. Ale aj texty rôznych zadaní.
Jednoduché texty vytvorené umelou inteligenciou sú zvyčajne ťažko rozpoznateľné. „Texty sa dobre čítajú, všetko sa zdá byť v poriadku aj z hľadiska štruktúry,“ povedal Aljoscha Burchardt z Nemeckého výskumného centra pre umelú inteligenciu (DFKI) v Berlíne.
Inak je to už z hľadiska obsahu. Aj bez zámeru šíriť dezinformácie sú v takýchto textoch neraz obsahové chyby a mylné tvrdenia. Preto je potrebné v prípade pochybností či nejakých náznakov, že ide o text vytvorený umelou inteligenciou, overiť si zdroje, údaje a tvrdenia v texte.
Obrázky: Všímajte si detaily
S programami umelej inteligencie možno vytvoriť obrázky, ktoré navodzujú zdanie reálnych fotografií. Stačí len zadať textový príkaz.
Na takýchto obrázkoch sú často viditeľné chyby, takže podvrhy sa obvykle dajú ľahko rozpoznať. Lenže programy umelej inteligencie sa neustále vylepšujú, takže rozpoznať podvrh bude čoraz ťažšie.
Treba sa na obrázok dívať celkom zblízka a zamerať sa na detaily. „Takto si môžeme pomôcť overiť vnútornú i vonkajšiu logiku obrazu,“ povedal Josef Holnburger, výkonný riaditeľ think tanku CeMAS (Center für Monitoring, Analyse und Strategie), ktorý sa zaoberá šírením podvrhov v kontexte dezinformácií.
Vnútorná logika znamená, či obsah obrázku dáva zmysel, alebo sú tam logické, štrukturálne alebo iné chyby. Preto by sme mali pozornosť zamerať na prsty osôb, vlasy, oblečenie a doplnky, nápisy, pozadie, tiene a pod.
Nemecký novinár pripomína, že obrázky vytvorené umelou inteligenciou majú od začiatku problémy so správnym zobrazovaním prstov a rúk. Niekedy sa dokonca zobrazí viac prstov, inokedy menej. Niekedy sú prsty zdeformované a neprirodzené. Podobne je dobré všimnúť si, či sú telesné končatiny jasne priradené, pretože často aj tu robí umelá inteligencia viditeľné chyby.
Niektoré programy AI majú problém so zobrazením vlasov. Niekedy pramene vlasov začínajú alebo miznú akoby vo vzduchoprázdne alebo sú neprirodzené.
Podobne je dobré všímať si oblečenie a doplnky, či sú napríklad záhyby, zipsy alebo gombíky zobrazené správne. Aj s takýmito detailmi má umelá inteligencia veľmi časté problémy. Časté chyby sa objavujú aj pri nápisoch a písomných označeniach, niekedy sa v pozadí objavujú objekty, ktoré by tam reálne nemali byť, inokedy sú viditeľné chyby pri zobrazení tieňov, ktoré by v realite takým spôsobom nemohli byť.
Vonkajšia logika znamená, či je pravdepodobné, že fotografia naozaj vznikla na danom mieste. Ak údajne ide o nejaké podujatie, sú aj ďalšie fotografie z akcie? Dnes má takmer každý pri sebe mobil a ak niekto na nejakej akcii fotí mobilom, tak je pravdepodobné, že tak robia viacerí. Môžeme si pomôcť aj vložením obrázku do vyhľadávača.
Zvukové nahrávky: Počúvajte veľmi pozorne
Stačí zadať text a vybraná osoba potom povie, čo ste zadali. Na to stačí mať jednoduchý program na generovanie deepfakes. Treba mať len originálnu zvukovú nahrávku, hoci len veľmi krátku, z ktorej program vytvorí hlasový klon s vami zvolenými slovami.
„Hoci hlasové klony ešte stále znejú mechanicky a niektoré slová sú vyslovené divne, podobne ako obrázky generované umelou inteligenciou aj hlasové podvrhy sa javia čoraz autentickejšie. Preto sa budú dať čoraz ťažšie odlíšiť od reálneho hlasu,“ upozorňuje Gilbert.
Pokiaľ ide o zvukový záznam nejakej známej osoby, je dobré všimnúť si aj to, kto ho šíri.
Zvuk je veľmi emotívne médium, pripomenul Aljoscha Burchardt. Podvodníci preto často využívajú práve takéto podvrhy. Napríklad volaním staršej osobe použitím hlasového klonu, takže daná osoba je presvedčená, že peniaze od nej naozaj pýta dcéra. V takýchto prípadoch si treba pozrieť číslo, z ktorého hovor prichádza, a ak je to neznáme číslo, treba byť opatrný. V takýchto prípadoch Burchardt odporúča vypýtať si číslo pre spätné zavolanie a potom sa pokúsiť zastihnúť dcéru na jej skutočnom čísle. Prípadne si volajúceho overiť otázkou o nejakom detaile, rozhovore či udalosti, o ktorej volajúci podvodník nemôže vedieť.
Burchardt tiež upozorňuje, že ostražití by sme mali byť aj v zamestnaní, pretože podvodné volania niekedy prichádzajú aj na pracoviská.
Videá: Všímajte si pohyby
Ak je vytvorené falošné video aj s hlasovým klonom, odhaliť podvod je obvykle ľahké, tvrdí Gilbert. Takéto deepfake videá sa robia tak, že digitálnou maskou (napr. tvárou vybranej osoby) sa prekryje pôvodná osoba. Alebo sa v pôvodnom videozázname danej osoby upraví mimika alebo pohyby úst tak, aby zodpovedali novému zvukovému obsahu.
V takýchto prípadoch „pomáha dívať sa pozorne a zamerať sa na ústa a pery“, odporúča novinár. „Niekedy pohyby pier neladia s tým, čo daná osoba hovorí, prípadne sú neprirodzené.“
Programy umelej inteligencie sa neustále vylepšujú, takže aj kvalita obsahu vytvoreného alebo upraveného umelou inteligenciou sa stále zlepšuje.
V tomto kontexte sa natíska aj otázka: Dokáže umelá inteligencia rozpoznať podvrhy vytvorené umelou inteligenciou? Nemecký novinár zisťoval, čo si o tom myslia experti. Tí sú však v tejto veci zhodne skeptickí.
