Novákoviny

Začátkem ledna zveřejnili vědci sdružení v organizaci Future of Life Institute otevřený dopis, v němž varují před překotným vývojem systémů umělé inteligence. Doporučují, aby všechna pracoviště, která se AI zabývají, navzájem koordinovala svou práci a vyloučila tak nebezpečí, že se tato technologie vymkne kontrole.

"Potenciální přínos AI je obrovský, protože všechno, čeho naše civilizace zatím dosáhla, bylo výtvorem inteligence - i když lidské... Doporučujeme ale výzkum rozšířit tak, aby systémy byly odolné proti zneužití a dělaly opravdu jenom to, co chceme, aby dělaly."

Dopis také obsahuje výčet možných rizik IA a opatření, která by je měla vyloučit. Future of Life Institute (FLI) je organizace zabývající se možnými riziky vývoje lidské civilizace. Mezi členy je i slavný astrofyzik Stephen Hawking a mnoho osobností z IT oblasti jako Elon Musk (PayPal, SpaceX, Tesla Motors), Jaan Tallinn (Skype) a řada dalších.

Právě Elon Musk patří k nejhlasitějším kritikům překotného vývoje AI: "Málokdo si dovede představit, jak rychle postupuje vývoj v této oblasti," prohlásil už loni na diskusi uspořádané během Vanity Fair New Establishment Summit v San Francisku. "Pokud stroj získá schopnost zdokonalovat sám sebe, může to pro nás mít neblahé následky. Nakonec se pokusí vymazat lidstvo jako spam."

Letos Musk ještě přitvrdil: "Stále více si myslím, že by měl existovat nějaký dohled na národní i mezinárodní úrovni, který zajistí, že neprovedeme nějakou hloupost." A své investice do firem zabývajících se AI ospravedlnil slovy: "Chci na ně vidět."

Nechybí ani názory, podle kterých AI představuje větší nebezpečí než jaderná válka, pád asteroidu a terorismus dohromady. Překvapivý je varovný hlas Stephena Hawkinga, ochrnutého fyzika, kterému právě program s prvky umělé inteligence umožňuje komunikovat se světem: "Možnosti lidí jsou limitované pomalým tempem biologické evoluce. Inteligentní stroje budou schopné se vyvíjet mnohem rychleji a tomu nebudeme schopní konkurovat. Vývoj umělé inteligence může vést ke konci lidského druhu."

Prohlášení slavného fyzika ale vyvolalo také nesouhlasné reakce. Rollo Carpenter, tvůrce programů s prvky umělé inteligence uvedl: "Věřím, že jsme schopni si nad touto technologií zachovat kontrolu. A že nám pomůže vyřešit mnohé problémy našeho světa. Momentálně nemůžeme říct, co se stane, až stroj dosáhne lidské inteligence - všechny možnosti zůstávají otevřené. Můžeme to využít, můžeme to ignorovat a můžeme to zničit."

Zmizí dvě miliardy pracovních míst

Roboty chytré jako člověk zatím šlo potkat jen na stránkách románů, zatímco skutečné počítače jsou jen rychlí idioti, kteří neumí nic, co do nich nevložil programátor. Jenže to pomalu přestává platit: stále více kybernetiků tvrdí, že nastávající desetiletí zažijeme mohutný nástup skutečné umělé inteligence (AI - Artificial Intelligence). Bude to přestavovat stejný sociální převrat, jakým byla průmyslová revoluce na přelomu 18. a 19. století, včetně globálního zemětřesení na pracovních trzích. Někteří odborníci jdou ještě dál a varují, že v okamžiku, kdy inteligence robota převýší inteligenci člověka, ztratíme jakoukoliv kontrolu nad tím, co přijde dál.

"Počítače budoucnosti budou přesně vědět, co si myslíte a vždy spolehlivě poznají, kdy lžete," tvrdí Robin Hanson z World Future Society (WFS), sdružení, které si klade za cíl předvídat budoucí civilizační trendy. "Dramaticky urychlí ekonomický rozvoj - ale tak, že na mnoho lidí práce nezbude. Pokud se nestanou kreativnější a nevymyslí pro sebe jiné poslání. Klíčem k budoucnosti lidí je jejich adaptabilita."

Thomas Frey ve své práci Inventing Tomorrow Jobs je konkrétnější: "Do roku 2030 díky umělé inteligenci a dalším inovacím (3D tisk, drony atd.) zmizí dvě miliardy pracovních míst. Dobrá zpráva je, že už nyní vznikají nové profese, které je nahradí."

Jiné odhady sice operují se menšími čísly, vyvolávají ale nemenší znepokojení. Podle studie, kterou oxfordská univerzita zveřejnila loni v listopadu, jen ve Velké Británii zanikne díky umělé inteligenci a s ní souvisejícími inovacemi během příštích dvaceti let celá třetina pracovních míst.

V přibližně stejné době uskutečnila společnost Pew Research Center anketu, při níž byla bezmála dvěma tisíců odborníků na informační technologie položena otázka, zda AI v příštích deseti letech bude nahrazovat lidské pracovní síly. Slabě nadpoloviční většina respondentů (52 procent) odpověděla záporně. Současně ale nevyloučili, že v delším časovém horizontu k tomu nezačne docházet. Jen o málo menší procento dotázaných (48 procent) se domnívá, že okolo roku 48 už bude AI znamenat velký problém na pracovním trhu: zánik mnoha pracovních míst a prohlubování propasti mezi bohatými a chudými.

Oxfordská studie se také zabývala otázkou, která pracovní místa jsou ohrožená nejvíc. "U zaměstnanců s příjmem pod 30 000 liber ročně bude pětkrát vyšší možnost vyhazovu než u lidí s příjmem nad 100 000 liber." Takže by se mohlo zdát, že takových míst není škoda - stačí postiženým na podporách zaplatit část ze zisku, který robot nebo chytrý program na jejich místě přinese. Ale už zkušenosti s dnešními nezaměstnanými (deprese, kriminalita, drogy) názorně předvádějí, že to není řešení.

Většina autorů je také za jedno v tom, že jako první jsou na řadě pracovníci s nízkou kvalifikací, jejichž práce spočívá v často opakovaných úkonech. Schopnost těchto lidí adaptovat se na nové podmínky, najít si tvůrčí práci neohroženou křemíkovou konkurencí je velmi nízká. Jak ale poroste IQ myslících strojů, přijdou na řadu i kvalifikovanější pracovníci.

V oceánu bez mapy a kompasu

Momentálně nikdo není schopný říci, kde se revoluce chytrých strojů zastaví a jak se projeví. Většina prognóz vychází ze zkušeností průmyslové revoluce a předpovídá prakticky stejné klady i zápory (na jedné straně pokrok a zvýšení životní úrovně, na straně druhé sociální otřesy). Kupodivu většinou opomíjejí další významný aspekt průmyslové revoluce: klady se nejvíc projevily tam, kde proběhla, zápory naopak v té části světa, která zůstala pozadu.

Bude to u revoluce chytrých strojů stejné?

Nikdo neví. Především ale v současnosti zatím stále ještě nikdo nemůže s určitostí říct, zda je vůbec možná a pokud ano, tak v jakém rozsahu a kde jsou její meze. Jsou-li vůbec jaké.

Ve skutečnosti se celý obor AI - alespoň pokud si pod tím představujeme stroj s opravdu lidským myšlením - stále ještě pohybuje víc v oblasti filosofie než exaktní vědy. Zatím ani přesně nevíme, co vlastně je inteligence lidská: nevíme, jak náš mozek funguje při svých nejdůležitějších projevech (uvědomování si sama sebe, emoce, intuice, fantazie, tvůrčí schopnosti atd.). O to složitější pak je nejen strojové napodobení, ale dokonce i pouhé posouzení, zda stroj skutečně inteligentní je, nebo zda jen nenapodobuje některé vnější projevy inteligence.

Otázka možnosti vytvořit skutečnou inteligenci rozdělila kybernetiky na dva tábory. V prvním jsou zastánci takzvané silné AI a tvrdí, že sestrojení stroje s plnohodnotnou lidskou (a vyšší) inteligencí lze. Přívrženci slabé AI naopak tvrdí, že vždy půjde jen o napodobení vnějších projevů inteligence. Například počítač IBM Deep Blue, který roku 1997 porazil šachového velmistra Kasparova vzbudil velkou pozornost - ale inteligentní nebyl. Byl pouze naprogramován tak, že napodoboval jeden z projevů inteligence, totiž schopnost dobře hrát šachy. To platí o všech současných aplikacích AI: v jedné nebo několika málo oblastech mají pozoruhodné výsledky, ale i "inteligence" pouhé mouchy je na nesrovnatelně vyšší úrovni.

Průkopníkem teorie umělé inteligence byl britský kybernetik Alan Turing (1912 - 1954), který už krátce po druhé světové válce vymyslel test toho, zda počítač dosáhl lidské inteligence. Člověk izolovaný v uzavřené místnosti měl klást otázky, které byly předávánu buď jiné osobě, nebo počítači. Pokud tazatel nedokázal rozpoznat, kdo odpovídá, měl být stroj považován za inteligentní.

Idea dlouho budila pozornost a byla považována za jeden ze základních kamenů učení o umělé inteligenci. Ale jak rostly výkony počítačů, dařilo se Turingův test oklamat, aniž by stroje byly inteligentní - stačilo odvádět řeč jinam, nebo odpovídat nic neříkajícími frázemi. Turingovi následovníci proto chtějí, aby stroje svou inteligenci prokazovaly samostatným vytvořením uměleckého díla. Problém je, že takový požadavek by nedokázala splnit ani většina lidské populace; opět narážíme na to, že neznáme ani podstatu svého vlastního lidství.

Možná ale je starost o rozpoznání inteligence stroje zbytečná. Polský spisovatel sci-fi a filosof Stanislav Lem ji jednoduše obešel vytvořením pojmu mimolidský rozum. "Rozvoj AI nemusí být shodný s rozvojem biologickým. Možností je oceán a my nemáme kompas ani mapu."

Což ovšem nahrává spíš hlasům varujícím před AI.

Síť, která se sama učí

Jedním z prvních kroků od filosofování k vytváření reálných systémů umělé inteligence byla myšlenka takzvaných neuronových sítí. Vychází z toho, že současná počítačová architektura je dobrá pro rychlé zpracování dat, s inteligencí ale nemá nic společného - je to jen "mlýn" který zadané informace zpracuje tak, jak ho to naučil programátor. Bylo třeba vymyslet něco, co umí totéž, co mozek živých organismů: učit se ze zkušeností. Tak vznikly neuronové sítě, které se staly základem aplikací AI.

Neuronová síť je systém vzájemně vhodně propojených prvků, z nichž každý se může v daném okamžiku nacházet v určitém stavu zvaném aktivita. Zjednodušeně se dá použít označení 0 (neaktivní) nebo 1 (aktivní). Přitom každý ze spojů mezi prvky má určitou schopnost lépe či hůře přenášet vzruchy (tzv. vazební váhu). Některé prvky slouží jako vstupní (mohou být aktivovány z vnějšku), některé jako výstupní (aktivují reakci systému na podnět). Základním pravidlem je, že aktivita prvku bude rovna jedné tehdy, je-li úhrnný vliv jeho okolí vyšší než určitá prahová hodnota. Každá změna aktivity určitého prvku však mění jeho vliv na ostatní prvky. Charakter tohoto chování je potom závislý hlavně na rozdělení vah na jednotlivých spojích.

Důležité je, že i váhy spojů se mění podle aktivity prvků, které spojují. Tak se síť učí - například procesy s kladnou odezvou váhu použitého spoje posilují, se zápornou zeslabují. Stejná vstupní aktivace tak příště vzbudí o něco silnější vzruch a ten bude mít větší vliv. Současně ale jiné vzruchy vytvářejí jiné stopy, a ty se mohou s původní stopou překrývat. To dohromady vede ke složitému dynamickému chování celého systému, které může mít (v závislosti na počtu prvků a jejich uspořádání) charakter racionálního jednání.

Někteří odborníci věří, že při dostatečném počtu prvků může neuronová síť vytvořit myslící systém. To bude ale ještě chvíli trvat, protože lidský mozek má přibližně 20 miliard neuronů. Navíc obsahuje zkušenosti několika miliard let biologické evoluce, které stroj nemá jak získat.

Ještě nedávno mnozí odborníci považovali praktické uplatnění za záležitost hodně vzdálené budoucnosti, protože i ty nejpokročilejší systémy měly inteligenci hmyzu a problémy s nejzákladnějšími úkony, jako je třeba rozpoznávání okolí, prostorová orientace a podobně. Strojové překlady pomocí softwaru s prvky AI vypadaly jako povídky surrealistického humoristy, stejně jako výplody programů OCR (převodu naskenovaných dokladů do podoby digitálního textu). Před několika lety Microsoft oznámil, že jeho nejbližším cílem bude naučit počítače rozumět lidské řeči - a pak své předsevzetí v tichosti opustil, protože tak daleko ještě technologie nebyla. Podobně dopadla i řada dalších hlasitě oznámených záměrů z oblasti AI.

V předvečer revoluce

To už ale tak docela neplatí. Letos v lednu například kybernetikové z University of Maryland předvedli robota, který dokáže připravit pokrm po shlédnutí instruktážního videa. Google testuje automobily bez řidiče - stačí zadat cíl cesty. Projekt vede Sebastian Thurn, který předtím řídil Standford Artificial Intelligence Laboratory, jedno z předních pracovišť v oblasti AI.

Většina současných aplikací AI ale má méně nápadnou podobu. Zatím jde většinou o softwarová řešení, která se uplatňují při strojových překladech, při vyhodnocování velkých souborů dat, v expertních systémech (včetně např. počítačových diagnóz ve zdravotnictví), při analýze řeči nebo obrazu, při syntéze řeči a podobně. Prvky umělé inteligence také disponuje software dálkově ovládaných robotů, které musí některé úlohy řešit i po ztrátě spojení s operátorem. Jde například o rovery pracující na Marsu, nebo o bojové drony (bezpilotní letadla).

Někteří kybernetikové soudí, že "lidské" inteligence půjde dosáhnout pouhým zvyšováním výpočetního výkonu počítačů, další věří v kvalitativně odlišnou techniku (např. kvantové počítače, počítače pracující na biologickém principu s pomocí DNA atd.) Jiní se snaží napodobit evoluci tak, že vytvoří jakýsi umělý ekosystém a do něj zasadí automaty schopné vlastního zdokonalování. Z jejich vzájemného soupeření by pak měl vyjít inteligentní objekt. Nemusí mít fyzickou povahu; už vznikly programy, které evoluci modelují softwarově.

Jiní usilují o propojení elektronických prvků s biologickými objekty. Z toho vyšla i myšlenka, že vyvíjet umělou inteligenci vlastně není potřeba - proč vymýšlet mozek, když už jeden máme. Podle zastánců takzvaného transhumanismu bychom místo toho měli zlepšovat schopnosti toho našeho propojováním s vhodnými technologiemi. Paměťové čipy v mozku například zmnohonásobí intelektuální potenciál, umělé orgány a tkáně budou mít lepší schopnosti a životnost než biologické. Kyborgové, kříženci lidí s robotickými technologiemi, budou moci žít v jakémkoliv prostředí, zbaví se nemocí, a v konečném důsledku i smrtelnosti - vznikne nový druh, "postlidé". Podle transhumanistů byl pomalý a naslepo probíhající biologický vývoj jen předstupeň ke vzniku nové bytosti, která už si bude svou další evoluci řídit sama.

V podstatě by to znamenalo, že se před lidmi otevírají dvě cesty: buď se nechat roboty odstavit na vedlejší kolej i s rizikem že se nás nakonec zbaví, nebo s nimi splynout a vytvořit tak zcela nový druh. V obou případech by to znamenalo, že lidstvo stojí před revolucí, jakou ve své historii dosud nezažilo.

Jan A. Novák

Psáno pro časopis Moderní řízení

You have no rights to post comments