Novákoviny

stránky publicisty Jana A. Nováka

K soudu kvůli robotickému autu

rocar0Rok 2020: přicházíte ke svému robotickému vozu a jako každé ráno mu řeknete, kam vás má odvézt. A ono - jako každé ráno - nejdříve odpoví: "Kam ten spěch, internetový obchod mého výrobce nabízí skvělé nové šampóny na můj lak. Měl bys mi je nejdřív objednat. Podívej, jak vypadám."

                 

"Když tak až po výplatě, miláčku," odpovíte, přestože víte, že na rozdíl od manželky tady není šance, že zapomene.

A vůz přitvrdí: "Buď dneska, nebo Toyotě tvé ženy řeknu, kde jsme byli minulý týden."

Nezbývá než udělat objednávku, jenže stejně se nikam nejede, protože stroj tentokrát má překvapení: "Zrovna si stahuju 57 aktualizací softwaru, takže si hezky počkáš."

"To se tím musíš zabývat zrovna teď?" řeknete nevrle. "Měl jsi na to v garáži celou noc."

"Hele, je to v tvém zájmu, protože našli nějakou bezpečnostní chybu v mém operačním systému," odsekne vůz uraženě a na další půl hodiny se odmlčí.

Ale mohou se stát i horší věci. A to už taková legrace není. Co byste řekli třeba tomu, že můžete mít v diáři (samozřejmě cloudovém) u některého data připsanou poznámku "U soudu svědčit v procesu s mým autem"?

 

Rychlejší než myšlenka

Vypadá to jako sci-fi, jíž se normální člověk nemusí zabývat - jenže není. Takové vozy už úspěšně jezdí a několik států USA dokonce má legislativu upravující jejich provoz. Vývojáři a obchodníci v nich vidí velký tržní potenciál, takže se možná dostanou do běžného provozu dřív, než se nadějeme. A možná i rychleji, než čekají zákonodárci. Spoluzakladatel Google Sergey Brin tvrdí, že by mohly být komerčně dostupné už okolo roku 2017.

Proč by ale měl vůz stanout před soudem?

rocar3

 

 

obr: Robotická auta už v běžném provozu umí jezdit. Na snímku testovací prototyp společnosti Google

 

 

Mohlo by se zdát - a výsledky dlouhodobých testů to zatím potvrzují - že robotické auto nejspíš bude lepší řidič než většina lidí. Reakční čas stroje je nepochybně kratší, o rychlosti, s jakou čipy zpracovávají informace, se může našemu mozku jen zdát. Vyhodnocování kritických situací je věc softwaru; a je rozhodně jednodušší, spolehlivější a konec konců také bezpečnější všechny možné i nemožná situace dopředu naprogramovat do palubního počítače vozu, než na ně připravit natvrdlého uchazeče o řidičský průkaz. Po silnicích se už nebudou motat čerství absolventi autoškol, co mají problém rozpoznat brzdový pedál od plynu, opatrní tatíci, kteří přes zimu nevytáhli vůz z garáže a teď se rozpomínají na řidičské návyky, senioři jezdící padesátkou uprostřed silnice, ani deprivanti léčící si za volantem mindráky. Teoreticky by robotické auto nemělo chybovat - a pokud ano, může za to buď výrobce (respektive jeho softwaroví specialisté), nebo majitel, který zanedbal údržbu.

Jak to bude v praxi, to se teprve uvidí (Goethe prý řekl, že šedá je každá teorie, zatímco strom života se zelená), ale i některé teoretické aspekty provozu robotických aut jsou už teď obtížně řešitelné.

První problém je už v odpovědnosti autorů softwaru robotického vozu. Ten se neobejde bez prvků umělé inteligence - a čím bude dokonalejší, tím jich bude víc. Stroj vybavený AI se ale do značné míry stává autonomní bytostí, na jehož chování má autor programu tím menší vliv, čím je jeho výtvor dokonalejší. Ve vzdálenější budoucnosti si lze představit i auta, která si budou uvědomovat sama sebe. Sugestivně takovou situaci popsal Arthur C. Clarke v románu vesmírná Odyssea 2001, kde řešení problematické situace tragickým způsobem převzal do svých rukou neurotický počítač HAL 9000. V každém případě je odpovědnost softwarových specialistů za činy systému s umělou inteligencí velmi sporná.

Rozpaky vzbuzují i některé méně futuristické představy o řízení robotických automobilů. Za samozřejmost nebo dokonce nevyhnutelnost se považuje masivní propojení s internetem - to je ale prostředí s mnoha bezpečnostními riziky. Někteří oborníci dokonce předpokládají, že silniční provoz těchto vozů budou na dálku řídit výkonné superpočítače ve speciálních centrech. Pro hackery (ale i teroristy všeho druhu) se jejich existence jistě stane velkou výzvou. Pokud už se smíříme s představou, že někde v cloudu jsou podrobné a aktuální informace o všech vašich jízdách.

Asi největší potíž spočívá v tom, že ani v budoucnosti se nebudou po silnicích pohybovat jen auta, co se řídí sama. Budou přes ně přecházet chodci, skákat do nich děti za míči, šněrovat si to cyklisté, životem pohrdat motorkáři - a jistě zůstane i dost aut řízených lidmi, protože ta bez řidičů nejspíš ještě hodně dlouho nebudou levná.

A teď si představte takovou situaci: do jízdní dráhy skočí nepozorné dítě. Palubní počítač situaci bleskurychle vyhodnotí a zjistí, že má dvě možnosti: buď přejede dítě, nebo se mu vyhne do protisměru, kde právě jede těžký kamion... Ošklivá představa - ale právě takhle v praxi vypadá to Goetheho "...strom života se zelená". A i když z právního hlediska je tenhle případ asi jasný, ze situace, kdy počítač rozhoduje, jestli zabije svého majitele, nebo malé dítě, běhá mráz po zádech. Přitom takových (a ještě horších) modelových situací je možné si představit stovky.

 

Já, robot

Když přijde řeč na vztah člověk - stroj, většinou někdo vytáhne prastarou klasiku sci-fi, knihu Isaaca Asimova Já robot, v níž autor definuje takzvané tři zákony robotiky. Podle prvního nesmí robot ublížit člověku, podle druhého ho musí poslechnout, pokud to není v rozporu s první zákonem a podle třetího musí chránit sebe, pokud to neodporuje předchozím dvěma.

Na první pohled vidíme, že náš problém neřeší. Jenže Asimov myslel i dál. V jedné méně známé povídce této sbírky spočívá zápletka v tom, že robot čas od času dělá podivné cviky. Vyšetřování ukáže, že chování nastane vždycky, když se dostane do obtížně řešitelné situace. Není to žádný Asimovův výmysl, u živých bytostí se tomu říká přeskokové jednání - například když se člověk v konfliktní situaci místo řešení začne drbat ve vlasech. Převedeno na náš případ robotického auta: když má před sebou zmíněné dítě a kamion a nemá jednoznačnou instrukci, jak to řešit - takže místo řešení (dejme tomu) restartuje systém. Je zřejmé, že na vině toho, co se stane pak, nebude ani výrobce (nikdo nedá do programu povel "zabij dítě" nebo "zabij svého majitele"), ani majitel.

rocar1

 

 

obr: Auta, která nepotřebují řidiče, nepochybně představují lákavou vizi

 

 

Jde ale soudit auto - tedy pokud zvolí první možnost a nesrazí se s náklaďákem, kdy už by asi nebylo koho soudit? Dostane deset let bez údržby natvrdo nebo rovnou sešrotování? Pomůže mu, když majitel v jeho prospěch u soudu řekne, že až dosud se chovalo vzorně?

Jako už tolikrát, i tentokrát sci-fi o hodně předstihla uvažování těch, kdo jsou za řešení budoucích problémů placení. Většina států se jím nezabývá vůbec, čtyři státy USA (Nevada, Kalifornie, Florida a Michigan), Francie a Velká Británie povolily testování na silnicích. Americký NHTSA (National Highway Traffic Safety Adinistration), se zmohl jen na pětistupňovou klasifikaci stupně robotizace vozu - z nichž ale za opravdu robotický jde považovat jen nejvyšší stupeň ("Stroj samostatně vykonává všechny funkce kritické z bezpečnostního hlediska po celou dobu jízdy").

Oborníci na silniční právo se zatím shodují jen v tom, že provoz robotických aut bude především vyžadovat jejich speciální pojištění a nápadné označení, které je odliší od ostatního provozu. Je silná tendence požadovat, aby i v režimu automatické jízdy byl na palubě někdo za řízením stále připravený převzít kontrolu - buď podle vlastního rozhodnutí v obtížné situaci, nebo pokud jej k tomu autopilot vyzve. To sice zdánlivě řeší problém odpovědnosti za případné nehody, ve skutečnosti však je kontraproduktivní jak z praktického hlediska (proč mít drahý robotický automobil, když budu muset být za volantem stále ve střehu), tak i z hlediska právního: dá se předpokládat, že robotické vozy budou používat především lidé, kteří nechtějí nebo nemohou řídit, jenže za automobil v silničním provozu těžko může mít odpovědnost někdo, kdo nemá řidičský průkaz, je podnapilý, smyslově postižený a podobně. Trochu to připomíná zákony z počátku 20. století, kdy se automobily směly pohybovat jen rychlostí chodce, což z nich dělalo jen nesmyslnou drahou hračku. Požadavek popírá i rozšířenou ideu robotických taxíků: taxikáři by nevymizeli, jen nebudou řídit.

Zatím to tedy vypadá, že technika opět předběhla zákon. Může nás uklidňovat snad jen pomyšlení, že než robotické vozy dorazí až k nám, budou už jinde dávno vědět, jak na to.

 

Jan A. Novák

Psáno pro Ekonom

 

obr: Působivá studie robotického vozu Mercedes Benz F 015 

 

 

 

 

 

 

Přidat komentář


Bezpečnostní kód
Obnovit

 
Free Joomla Templates: by JoomlaShack