Google nedávno predstavil nový nástroj na označovanie textov generovaných umelou inteligenciou, ktorý by mohol mať výrazný dopad na boj proti falošným správam a akademickým podvodom. Táto technológia, známa ako SynthID-Text, bola vytvorená tímom výskumníkov spoločnosti Google DeepMind v Londýne.
Na rozdiel od existujúcich riešení umožňuje neviditeľne označovať texty vytvorené umelou inteligenciou tak, aby mohli byť neskôr identifikované. Hoci ide o pomerne nové riešenie, už bolo nasadené v reálnom svete a označených bolo približne 20 miliónov textov generovaných jazykovým modelom Google Gemini.
Podľa správy zverejnenej v magazíne Nature 23. októbra, ide o prvý praktický príklad vodotlače aplikovanej na veľkú škálu textových výstupov. Aj keď existujú spôsoby, ako túto vodotlač odstrániť, podľa Scotta Aaronsona, počítačového vedca z University of Texas, je kľúčové, že sa táto technológia už reálne používa. Aaronson, ktorý predtým pracoval na podobných technológiách v OpenAI, zdôraznil, že zavedenie tejto technológie je prelomovým krokom, píše o tom nature.com.
Prečo je dôležité označovanie AI-generovaného textu?
Označovanie textov generovaných umelou inteligenciou sa čoraz viac stáva prioritou v súvislosti so šírením falošných správ a podvodmi v akademickom prostredí. S nárastom využívania veľkých jazykových modelov (LLM) hrozí, že tieto modely budú neúmyselne trénované na vlastných výstupoch, čo by mohlo viesť k poklesu ich kvality a šíreniu nesprávnych informácií. Používanie vodotlače teda môže pomôcť zachovať integritu týchto modelov a ochrániť ich pred degradáciou.
V masívnom teste, do ktorého bolo zapojených 20 miliónov odpovedí, používatelia hodnotili texty s aplikovanou vodotlačou rovnako kvalitne ako tie bez nej. Podľa počítačového vedca Furonga Huanga z University of Maryland je tento krok Googlu dôležitým signálom pre celú technologickú komunitu. Predpokladá, že väčšina komerčných nástrojov bude v budúcnosti označovaná podobným spôsobom.
Ako funguje technológia SynthID-Text?
Aplikácia vodotlače do textu je technicky náročnejšia než do obrázkov, pretože v texte je jedinou premennou výber slov. Technológia SynthID-Text upravuje výber slov modelu špecifickým spôsobom, ktorý je možné detekovať pomocou kryptografického kľúča. Tento prístup má viacero výhod oproti konkurenčným riešeniam, pretože je ľahšie ho detekovať a nemá výrazný vplyv na rýchlosť generovania textu. Algoritmus používa kryptografický kľúč na pridelenie skóre jednotlivým možným slovám a následne ich vygeneruje podľa určitých pravidiel. Tento proces umožňuje rozpoznať text s vodotlačou pomocou rovnakého kryptografického kódu, ktorý identifikuje „víťazné“ slová.
Kritika a potenciálne problémy
Napriek tomu, že ide o prelomovú technológiu, otázky týkajúce sa jej odolnosti voči odstráneniu vodotlače zostávajú nezodpovedané. Výskumníci zo Švajčiarskeho federálneho technologického inštitútu v Zürichu nedávno preukázali, že každá vodotlač môže byť odstránená alebo falšovaná procesom nazývaným „scrubbing“. Taktiež je možné vodotlač aplikovať na text, ktorý nebol vytvorený umelou inteligenciou, čím sa vytvorí falošný dojem, že ide o AI-generovaný obsah.
Pushmeet Kohli, počítačový vedec z DeepMind, uviedol, že cieľom tejto technológie je zjednodušiť a sprístupniť vodotlač ostatným vývojárom, aby ju mohli použiť vo svojich modeloch. Hoci Google si ponecháva kľúč potrebný na detekciu vodotlače, verí, že ostatní vývojári v tejto oblasti budú motivovaní používať podobné technológie.
Význam pre budúcnosť umelej inteligencie
Vlády po celom svete začínajú pokladať vodotlače za kľúčové riešenie rastúceho objemu textov generovaných umelou inteligenciou. Tento nástroj má potenciál chrániť pred neúmyselnými rizikami spojenými s AI, ale zároveň čelí mnohým výzvam, ako je potreba koordinácie medzi vývojármi a zabezpečenie odolnosti voči zneužívaniu. Ako upozorňuje Yves-Alexandre de Montjoye z Imperial College London, problémom zostáva, či tieto technológie skutočne poskytujú dostatočnú ochranu v kontexte bezpečnosti AI.
Vodoznaky pre texty AI sa považujú za jednu z najsľubnejších technológií pre kontrolu rastúceho objemu obsahu vytváraného umelou inteligenciou. Či sa však stanú štandardom v celom odvetví, ukáže až čas a ďalšie skúšky ich bezpečnosti a efektívnosti.
