Trh s AI chatbotmi v posledných rokoch exponenciálne rástol, podľa DataHorizzon Research v roku 2022 v hodnote 4,6 miliardy dolárov (zhruba 4,28 miliardy eur).
Od romantických avatarov na Replike až po virtuálnych ovplyvňovateľov, chatboty AI pokračujú v infiltrácii spoločnosti a nanovo definujú naše vzťahy spôsobmi, ktoré ešte nie sú úplne pochopené.
V roku 2023 bol odsúdený muž po pokuse o zabitie kráľovnej Alžbety II., čo bol čin, ktorý podľa jeho slov „podporila“ jeho „chatbot priateľka“.
V tom istom roku sa ďalší muž zabil po šesťtýždňovom rozhovore o klimatickej kríze s AI chatbotom menom Eliza v aplikácii s názvom Chai.
Zatiaľ čo vyššie uvedené príklady sú stále skôr tragickými výnimkami ako normou, narastajú obavy, ako by sa AI chatboty dali použiť na zacielenie na zraniteľných ľudí, extrahovanie údajov z nich alebo ich manipulovanie do potenciálne nebezpečných presvedčení alebo akcií.
„Z nášho nedávneho výskumu sa zdá, že extrémistické skupiny testovali nástroje AI vrátane chatbotov, ale zdá sa, že existuje len málo dôkazov o rozsiahlom koordinovanom úsilí v tomto priestore,“ povedala pre Euronews Pauline Paillé, senior analytička RAND Europe.
„Chatboti však pravdepodobne predstavujú riziko, pretože sú schopní rozpoznať a využiť emocionálnu zraniteľnosť a môžu podnecovať násilné správanie,“ varovala Paillé.
Na otázku, či ich chatboty s umelou inteligenciou predstavujú riziko radikalizácie, hovorca Gabu odpovedal: „Gab AI Inc je americká spoločnosť, a preto sú naše stovky postáv AI chránené Prvým dodatkom Spojených štátov. Je mi jedno, či cudzinci plačú nad našimi nástrojmi AI.“
Ako budú AI chatboty regulované v celej Európe?
(Článok pokračuje na ďalšej strane)
