AI možno voľne definovať ako počítačové systémy vykonávajúce úlohy, ktoré si zvyčajne vyžadujú ľudskú inteligenciu.
Britsko-kanadský počítačový vedec, ktorého často označujú za „krstného otca“ umelej inteligencie (AI), sa domnieva, že existuje pravdepodobnosť, že AI vyhladí ľudstvo v priebehu nasledujúcich troch desaťročí.
Zároveň varuje, že tempo zmien v technológii je „oveľa rýchlejšie“, ako sa očakávalo, píše The Guardian. Profesor Geoffrey Hinton, ktorý tento rok získal Nobelovu cenu za fyziku za svoju prácu v oblasti AI, uviedol, že existuje „10% až 20%“ šanca, že AI povedie k vyhynutiu ľudstva v priebehu nasledujúcich troch desaťročí.
Evolúcia si dala veľa práce
Hinton skôr povedal, že je 10-percentná šanca, že táto technológia bude predstavovať pre ľudstvo katastrofálny výsledok.
Na otázku v rádiu BBC Radio 4, či zmenil svoju analýzu predpokladanej apokalypsy umelej inteligencie, teraz povedal: „Naozaj nie, je to 10 % až 20 %.“
Hintonov odhad podnietil hosťujúceho redaktora, ktorý reagoval slovami: „Idete hore (s percentami)“, na čo Hinton odpovedal: „Vidíte, nikdy predtým sme sa nemuseli zaoberať vecami inteligentnejšími ako my sami.“
Vedec položil otázku: „A koľko príkladov poznáte, že inteligentnejšia vec je ovládaná menej inteligentnou vecou? Príkladov je veľmi málo. Je tu matka a dieťa. Evolúcia si dala veľa práce s tým, aby umožnila dieťaťu ovládať matku, ale to je asi jediný príklad, ktorý poznám.“
Ublíženie iným
AI možno voľne definovať ako počítačové systémy vykonávajúce úlohy, ktoré si zvyčajne vyžadujú ľudskú inteligenciu. Emeritný profesor univerzity v Toronte dodal, že ľudia by boli ako batoľatá v porovnaní s inteligenciou vysoko výkonných systémov AI. „Predstavte si seba a trojročné dieťa. Budeme trojročné deti,“ povedal.
Minulý rok sa Hinton dostal na titulky médií po tom, čo rezignoval na svoju funkciu v Google, aby otvorenejšie hovoril o rizikách, ktoré predstavuje neobmedzený a rýchly vývoj AI, pričom uviedol obavy, že „zlí herci“ túto technológiu použijú na ublíženie iným.
Kľúčovým záujmom bojovníkov za bezpečnosť AI je, že vytvorenie všeobecnej umelej inteligencie alebo systémov, ktoré sú inteligentnejšie ako ľudia, by mohlo viesť k tomu, že technológia bude predstavovať existenčnú hrozbu, kedy sa vyhne ľudskej kontrole.
Neviditeľná ruka nás nezachráni
Hinton sa zamýšľal nad tým, kam by podľa neho dosiahol vývoj AI, keď prvýkrát začal pracovať na technológii. „Nemyslel som si, že sa už teraz dostaneme tam, kde sme. Domnieval som sa, že sa tak stane až neskôr.“
„Situácia, v ktorej sa teraz nachádzame, je taká, že väčšina odborníkov v tejto oblasti si myslí, že niekedy, pravdepodobne v priebehu nasledujúcich 20 rokov, vyvinieme AI, ktoré sú inteligentnejšie ako ľudia. A to je veľmi desivá myšlienka,“ vyjadril svoje obavy.
Hinton povedal, že tempo vývoja bolo „veľmi, veľmi rýchle, oveľa rýchlejšie, ako som očakával“ a vyzval na vládnu reguláciu technológie.
„Obávam sa, že neviditeľná ruka nás nezachráni. Takže len ponechať to na ziskový motív veľkých spoločností nebude postačujúce na to, aby sa zaistilo, že bude AI vyvíjaná bezpečne,“ varuje. „Jediná vec, ktorá môže prinútiť tieto veľké spoločnosti, aby robili ďalší výskum v oblasti bezpečnosti, je vládna regulácia.“
Hinton je jedným z troch „krstných otcov AI“. Jeden člen z tria, Yann LeCun, hlavný vedec AI v spoločnosti Meta, bagatelizoval existenčnú hrozbu a povedal, že AI „by mohla skutočne zachrániť ľudstvo pred vyhynutím“.
