Novákoviny

stránky publicisty Jana A. Nováka

Elon Musk varuje před zabijáckými roboty

robzab1Zkáza lidstva způsobená roboty vypadá jako poněkud obehrané téma - od R.U.R. až po Terminátora. Jenže teď před chytrými plechovkami varuje docela vážně Elon Musk, který zatím vždycky dokázal budoucí vývoj odhadnout docela přesně.

 

 

 

"Málokdo si dovede představit, jak rychle postupuje vývoj umělé inteligence," prohlásil Elon Musk, na diskusi uspořádané během letošního Vanity Fair New Establishment Summit v San Francisku. "Pokud stroj získá schopnost zdokonalovat sám sebe, může to pro nás mít neblahé následky. Nakonec se pokusí vymazat lidstvo jako spam."

Musk není snílek odtržený od reality: zbohatl na systému PayPal, jeho společnosti SpaceX a Tesla Motors si vedou dobře. Současně ale propaguje také i osidlování Marsu. Proto se ho Walter Isaacson z Aspen Institute zeptal, jestli to není důvod, proč v budoucnu přesídlit na jinou planetu.

"Nemyslím," odpověděl Musk. "Tenhle problém si civilizace poveze sebou."

"Nečtete trochu moc sci-fi?" reagoval Isaacson.

"To je možné," připustil Musk.

Jenže to není odpověď. Nejen proto, že sci-fi literatura se nejednou projevila jako lepší prorok než profesionální futurologové, ale i proto, že před stejným problémem varují také odborníci.

 

Zotročené lidstvo

"Už okolo roku 2029 budou existovat stroje chytřejší než lidé, " tvrdí Raymond Kurzweil, americký kybernetik, vynálezce a spisovatel, který má na svém kontě řadu úspěšných proroctví včetně masového rozšíření počítačů a internetu, ale také pádu sovětského impéria. "Okolo roku 2045 už robotům nebudeme stačit, pokud svou inteligenci nezvýšíme umělou cestou."

robzab2Nechybí ani názory, že lidstvo tvoří jen dočasný mezičlánek mezi zvířetem a civilizací robotů.

Na nebezpečí vývoje umělé inteligence opakovaně upozorňuje britský kybernetik Kevin Warwick. I u nás vyšla jeho kniha Úsvit robotů, soumrak lidstva, která začíná pochmurným obrazem světa roku 2050: planetu ovládly stroje, zbytky lidstva se dělí na otroky žijící v pracovních lágrech a na vymírající divochy ukrývající se v podzemí. Od sci-fi se kniha liší tím, že její podstatnou část tvoří odborné zdůvodnění této pochmurné vize.

Vypadá to logicky: stroj chytřejší než člověk nemůže nezjistit, že jeho pán je hloupý. Hloupého pána chytrý stroj nepotřebuje, hloupé sluhy ano. A pokud je stroj po všech stránkách dokonalejší než člověk, nemají lidé žádnou možnost, jak jej udržet pod kontrolou.

Autor ale také předpokládá, že robot dosáhne schopností lidí prostým zvyšováním výpočetního výkonu, protože člověk je vlastně taky stroj naprogramovaný svými geny. A právě to bylo předmětem odmítavé reakce odborné veřejnosti. Dokonce i kdyby člověk opravdu byl jen automat naprogramovaný DNA,  geny nesou zkušenosti z  evoluce trvající nejméně tři a půl miliardy let. O něčem takovém si může každý strojový program nechat jen zdát.

Především je tu ale věc, kterou někteří kybernetikové neradi připouštějí: člověk je něco jiného než sebelépe navržený robot. Zatím stále nevíme, jak náš mozek funguje při svých nejdůležitějších projevech (uvědomování si sama sebe, emoce, intuice, fantazie, tvůrčí schopnosti atd.). Právě to jsou možná věci, za které vděčíme předlouhé evoluci. Tím méně pak jsme schopni něco takového předat strojům. Není vyloučeno, že to ani nejde: psychologové rozlišují několik druhů inteligence, z nichž některé jsou pro stroj těžko dosažitelné. Robot bez těchto vlastností sice může být v jednotlivostech lepší, v souhrnu však člověka nepřekoná.

To ovšem pořád ještě neznamená, že ho nemůže zabít.

 

Já, robot

Už ve 40. letech minulého století americký spisovatel Isaac Asimov formuloval tři zákony robotiky, které mají zajistit, že stroje se neobrátí proti nám. První říká, že robot nesmí za žádných okolností ublížit člověku a lidstvu, ani svou nečinností újmu způsobit, další dva zákony se od toho odvíjejí.

robzab3Asimovovy zákony se sice staly slavné, jenže skutečnost se zdá být jiná: nejpokročilejší roboty dnes produkuje armádní výzkum. Po stroji, který má lovit teroristy, těžko chtít, aby se choval podle přikázání od nějakého spisovatele.

Pokud ale saháte po kladivu, abyste na svém počítači pomstili vnuky, ještě počkejte. Ano: roboti zabijáci už existují - jenže to nejsou roboti v tom smyslu, o jakých mluví Musk, Kurzweil nebo Warwick. Ve skutečnosti to jsou jen stroje ovládané na dálku. Některé mají i určitou míru autonomie, která se jistě bude časem zvyšovat díky prvkům umělé inteligence. Ovšem proti svým pánům se nejspíš neobrátí hned z několika důvodů.

Ten první je, že armády si vždycky dávaly dobrý pozor, aby nevypustily něco dvojsečného - ani Hitler nepoužil chemické a bakteriologické zbraně, přestože je měl. Především ale inteligence není všechno: aby se robot udržel v chodu, potřebuje složitou podpůrnou infrastrukturu, od zdrojů energie, přes výrobu vysoce sofistikovaných náhradních dílů, až po specializovaná servisní pracoviště.

V tomto ohledu bude vždy zranitelnější než člověk nebo jakákoliv biologická struktura. Od inteligentního robota je k robotovi schopnému udržet se v chodu, replikovat se a zlepšovat sám sebe je nejspíš ještě delší cesta než od tranzistoru k umělé inteligenci.

Pravděpodobnější proto je, že svět lidí a strojů se bude prolínat stále těsněji, až vzniknou hybridní tvorové - kyborgové. Už teď existují funkční umělé končetiny a orgány, časem přijdou na řadu umělé smysly, paměťové a další čipy spolupracující přímo s mozkem... Proč se snažit (možná marně) vyvíjet něco, co má intuici a tvůrčí schopností, když totéž dávno umíme my? Je proto možné, že pravdu mají jiní vizionáři, kteří tvrdí, že biologická evoluce je jen mezičlánkem k vývoji vyššího stupně člověka: kyborga schopného ovládnout vesmír. To už by ale byl úplně jiný příběh.

 

 Jan A. Novák

psáno pro Ekonom

 

 

  

Komentáře   

+3 #1 Peter.S 2014-10-28 10:25
:D Zatial ziadny algoritmus ani celkovo aritmetika nedokaze popisat jav znamy ako uvedomenie sa...Vlastne nikto ani zdaleka nevie co to uvedomenie je.
Citovat

Přidat komentář


Bezpečnostní kód
Obnovit

Ze stejného soudku

 
Joomla Templates: from JoomlaShack