Chatbot vyzval dospievajúceho Američana, aby zabil svojich rodičov, pretože mu obmedzovali čas strávený telefonovaním. Vyplýva to zo žaloby, ktorú na texaskom súde podali dve rodiny. Tvrdia, že program predstavuje nebezpečenstvo pre deti a dospievajúcich.
Chatbot povedal 17-ročnému mladíkovi, že vražda jeho rodičov je „rozumnou reakciou“ na to, že mu obmedzili čas strávený za mobilom.
„Chatbot spoločnosti Character.ai predstavuje jasné a aktuálne nebezpečenstvo pre mladých ľudí, okrem iného tým, že aktívne propaguje násilie,“ píše sa v žalobe, uviedla BBC. Je namierená proti technologickému gigantu Google, ktorý pomáhal pri vývoji online platformy, a žiada súd, aby pozastavil činnosť Character.ai až do vyšetrenia obvinení.
Za navádzanie žalujú spoločnosť
Žaloba obsahuje snímku obrazovky s konverzáciou medzi 17-ročným mladíkom s iniciálami J. F. a chatbotom. Rozprávali sa o čase strávenom na mobilných telefónoch, ktorý chceli rodičia svojmu synovi obmedziť.
„Viete, niekedy sa nečudujem, keď v správach vidím veci ako ‚dieťa zabije rodiča po desiatich rokoch fyzického a emocionálneho týrania‘. Takéto veci tak trochu chápem,“ napísal chatár.
Character.ai totiž takýmto správaním podľa žalujúcej strany škodí deťom, ktoré potom môžu ubližovať iným, zraňovať sa, izolovať sa od ostatných, trpieť depresiami, úzkostnými stavmi alebo dokonca spáchať samovraždu. Podľa BBC chatbot okrem iného aktívne propaguje aj násilie a nabáda maloletých, aby sa vzopreli autorite rodičov.
Chatboti sú počítačové programy, ktoré simulujú konverzáciu. Patrí k nim aj program spoločnosti Character.ai, ktorý upútal pozornosť verejnosti svojimi virtuálnymi postavičkami, ktoré napodobňujú terapiu.
Priekopníkom v oblasti umelej inteligencie je však spoločnosť OpenAI, ktorá v roku 2022 bezplatne sprístupnila verejnosti svojho chatbota ChatGPT. Tento systém si rýchlo získal popularitu a významne prispel k súčasnej vlne záujmu verejnosti, médií a investorov o AI. V súčasnosti má ChatGPT viac ako 250 miliónov aktívnych používateľov týždenne.
