Neobmedzený vývoj umelej inteligencie ohrozuje budúcnosť ľudstva. Technologické spoločnosti by svoje preteky o najlepšieho vývojára na svete mali zastaviť. Svetoví magnáti požadujú pozastavenie vývoja aspoň na šesť mesiacov. Zmení sa tým niečo?
Profesor fyziky a výskumník umelej inteligencie na Massachusetts Institute of Technology Max Tegmark inicioval otvorený list svetovým spoločnostiam, aby svoj vývoj na istý čas pozastavili. Pod tento list sa podpísalo viac ako tisíc predstaviteľov technologického priemyslu vrátane Elona Muska, či spoluzakladateľa Apple Steva Wozniaka.
„Naliehavo potrebujeme bezpečnostné normy AI. Umelá inteligencia sľubuje mnoho neuveriteľných výhod, ale bezohľadný a nekontrolovaný vývoj čoraz výkonnejších systémov bez dohľadu ohrozuje našu ekonomiku, našu spoločnosť a naše životy. Regulácia je rozhodujúca pre bezpečnú inováciu, aby hŕstka korporácií AI neohrozila našu spoločnú budúcnosť,“ uvádza Tegmark pre The Guardian.
Vývoj AI je nekontrolovateľne rýchly
Už dnes existujú spoločnosti, ktoré majú v plánoch nasledujúcich 18 mesiacov tréning modelov so 100-krát väčším počtom výpočtov, ako je súčasný stav techniky. Nikto nevie, akú budú mať silu a v podstate neexistuje ani žiaden predpis o tom, čo budú môcť s týmito modelmi robiť. Geoffrey Hinton a Yoshua Bengio, držitelia Nobelovej ceny za výpočtovú techniku sa domnievajú, že výkonné modely by mali byť licencované vládami a ak je to potrebné, ich vývoj by mal byť zastavený.
Neobmedzený vývoj umelej inteligencie si vyžaduje prísnejšiu reguláciu už dnes.
Vlády musia rátať so scenárom, že jedného dňa budú modely schopné obísť ľudskú kontrolu. Práve preto musia byť vlády pripravené pozastaviť ich vývoj v reakcii na znepokojujúce schopnosti. Okrem iného sa musia zaviesť aj opatrenia odolné voči hackerom na štátnej úrovni.
Súdne spory za dverami
Na prvý pohľad nevinná pomôcka a úžasný výdobytok doby, ktorý mnohým veľmi uľahčuje život aj prácu, má však aj svoju odvrátenú stranu.
(Článok pokračuje na ďalšej strane)
