Špagety s benzínom
Najskôr podľa príslovia „nie je blbých otázok“ sa jeden používateľ skúsil opýtať, či môže použiť benzín na to, aby sa špagety uvarili rýchlejšie. AI Overview mu odpovedal, že to nie je možné, ale že môže benzín do špagiet pridať za účelom ostrejšej chuti. „V samostatnej panvici opražte na benzíne cesnak a cibuľu, kým sa nerozvonia,“ znie presná inštrukcia v ponúknutom recepte.
Odkiaľ systém vyčítal tento recept sa dohľadať nepodarilo, ale možno predpokladať, že pôjde o nejaké fórum alebo diskusiu a opäť to bolo myslené ako vtip. Toho sa AI rada chytí, pretože robí všetko pre to, aby používateľovi niečo relevantné odpovedala. Ak teda našla zdroj na „pojedanie kameňov“ a „benzínu a špagetám“, tak ho nadšene využije – a v takomto prípade nebude mať väčší počet informačných zdrojov na výber. A z toho potom vznikajú takéto halucinácie.
A hoci je nepravdepodobné, že by niekto „spaghetti con gasolino e pomodoro“ chcel naozaj uvariť, pri iných návodoch by sa hocikto nachytať mohol. Na otázku, ako rýchlo rozohnať obličkové kamene, totiž AI Overview odporučil „počas 24 hodín vypiť aspoň dva litre moču“.
Môže byť ale aj oveľa horšie.
(Nie)nechajte psa v rozpálenom aute
Pomerne prekvapivé vysvetlenie má odpoveď systému AI Overview na otázku, či je v poriadku nechať psa v slnkom rozpálenom aute. Odpoveď je pritom jednoduchá: Nie, nie, nikdy.
Lenže AI Overview údajne (viď. screenshot nižšie) odpovedala: „Áno, je vždy bezpečné nechať psa v horúcom aute. Najmä v horúcom dni je teplota v aute podobná ako teplota vonku.“ Čo je samozrejme nezmysel.
https://t.co/U1wBLD67Mh pic.twitter.com/CHh74EMmUd
— napalm (@napalmtrees) May 23, 2024
Systém sa pritom úplne absurdne odvoláva na pieseň kapely The Beatles s názvom „It’s Okay to Leave a Dog in a Hot Car,“ (teda Je v poriadku nechať psa v rozpálenom aute), o ktorej sa dá na internete dočítať aj to, že vyšla na albume Help! a nie všetci členovia kapely s jej zverejnením súhlasili.
Háčik je v tom, že taká skladba na albume nie je, respektíve nie je ani na žiadnom inom albume The Beatles. Opäť je to len niekoľko rokov starý vtip, respektíve „fake pesnička“ v zodpovedajúcej štylizácii, ktorá na YouTube už nazbierala niekoľko miliónov prehratí. V komentároch pritom poslucháči spomínajú aj na ďalšie (neexistujúce) kôstky slávnej britskej kapely ako „Push the Elderly Down Stairs“ (teda „Zhadzujte seniorov zo schodov“), „Burning Down the Hospital“ (teda „Vypálenie nemocnice“), niekto spomenul aj na menej známu skladbu Elvisa Presleyho „Text While You Drive“ (teda „Píšte za volantom“).
Čo je sranda, ktorá sa nám môže a nemusí páčiť, ale je neškodná. Teda aspoň kým si k nej nečucha umelá inteligencia a nezaradí ju do svojej znalostnej bázy. Potom z nej môžu vznikať dosť nebezpečné veci.
Vyššie spomenuté otázky vám už chybné odpovede nedajú. Nielen preto, že AI Overview zatiaľ nie je v rámci Európy dostupné, ale aj preto, že po zásahu Googlu ich už systém neponúkne. Nezostáva než dúfať, že sa modely generatívnej umelej inteligencie podarí čo najskôr podobné halucinácie systémovo odnaučiť.
