Odpovědnost (za) robota aneb právo umělé inteligence

autor: JUDr. Linda Kolaříková
publikováno: 18.04.2018

Přinášíme čtenářům vítěznou práci kategorie Talent roku soutěže Právník roku 2017. Její autorka se v ní mj. zamýšlí nad právní definicí robota a definicí pravidel pro vývoj, výrobu a šíření inteligentních strojů, především se ale zabývá otázkou, jak řešit odpovědnost za škodu způsobenou umělou inteligencí.

Rossumovi univerzální roboti 

Není mnoho českých slov, které zná, či dokonce používá celý svět. Pro Čapkova robota[1] platí obojí. Příběhy o vytvoření samostatně fungující umělé bytosti provázejí lidstvo od antiky až po moderní vědeckofantastická díla. Nyní se však autonomní roboti či umělá inteligence stávají realitou. Ačkoliv knihy a filmy jsou dávno plné příběhů inteligentních robotů, právo zůstává převážně rezervované. Budoucnost, v níž se tyto stroje stanou běžnou součástí společnosti, však může být blíže, než se na první pohled zdá.

Průzkum vypracovaný na popud Evropské komise[2] totiž zjistil, že v roce 2015 robota[3] využíval při práci či v domácnosti jeden ze sedmi Evropanů. Jejich význam i využití navíc budou pravděpodobně dále narůstat. Je nepochybné, že jakmile bude mít robota téměř každá domácnost či zaměstnavatel, společnost projde dramatickou proměnou.

Ohromující jsou i ekonomická očekávání. Podle některých odhadů bude mít pokročilá robotika v roce 2025 celosvětový ekonomický dopad ve výši 1,7 až 4,5 bilionu dolarů ročně, zatímco kategorie autonomních vozidel až dva biliony.[4]

V této souvislosti se často hovoří o čtvrté průmyslové revoluci či tzv. Průmyslu 4.0.[5] V rámci něj má dojít k automatizaci a výměně dat ve výrobě zapojením kyberfyzických systémů, internetu věcí,[6] cloudových úložišť a rozpoznávacích systémů.

Kde ovšem téma vhodné a nutné legislativy upravující právě robotiku v posledních letech stále častěji zaznívá, je půda Evropské unie. V březnu 2012 byl zahájen projekt RoboLaw,[7] který o dva roky později zveřejnil Pravidla regulace robotiky. V roce 2015 Výbor EP pro právní záležitosti (JURI) ustanovil pracovní skupinu za účelem vypracování příslušných soukromoprávních pravidel. Tato skupina skutečně vypracovala návrh usnesení EP obsahující sérii doporučení určených Komisi (dále „Návrh“).[8] V návaznosti na tento návrh nechal JURI vypracovat akademiky studii týkající se evropských pravidel robotiky (dále „Studie“).[9] Ta vznesla k Návrhu několik kritických připomínek a i na jejím základě Evropský parlament finálně přijal přepracované usnesení obsahující doporučení týkající se občanskoprávních pravidel robotiky (dále „Usnesení“).[10] To vyzývá Komisi k vypracování legislativního nástroje upravujícího vývoj a využití umělé inteligence a robotiky v horizontu příštích 10 až 15 let.[11]

České právo oproti tomu k tématu inteligentních robotů i umělé inteligence – alespoň prozatím – v podstatě mlčí.

Tato práce má za cíl stručně popsat aktuální vývoj v oblasti robotiky, představit legislativní návrhy vytvářené v této oblasti na různých úrovních a nastínit otázky, které se v těchto souvislostech nabízejí. Není samozřejmě možné v tomto rozsahu pokrýt veškeré aspekty překotného vývoje, ke kterému v oblasti technologií dochází. Z pohledu právníka je však více než žádoucí mít o ní alespoň základní představu, neignorovat nezastavitelný technický vývoj a zamýšlet se nad jeho dopady do kaž­dodenního života, a tím přirozeně i do právního prostředí. 

Já, robot[12] 

Co však je a co není inteligentní či autonomní robot? Formulovat vhodnou definici je přirozeně jedním z prvních úkolů, se kterými si musí zákonodárce poradit. A není to úkol jednoduchý. Často se v této souvislosti zmiňují autonomní vozidla, roboti pečující o handicapované osoby, sofistikované zdravotnické implantáty či protézy, operační roboti a drony. U dvou posledně zmíněných kategorií ovšem často nejde (alespoň prozatím) o skutečně autonomní přístroj, ale jen o „prodlouženou ruku“ chirurga či pilota, byť tyto osoby mohou přístroj ovládat či instruovat na značnou vzdálenost.

Dále zmíněný jihokorejský zákon[13] definuje inteligentního robota jako mechanický přístroj, který vnímá své okolí, vyhodnocuje situace a samostatně se pohybuje.

Usnesení EP se touto definicí inspiruje, když navrhuje definovat kyberfyzické systémy, autonomní systémy, chytré autonomní roboty a jejich subkategorie za pomoci následujících charakteristik tzv. chytrého robota:

• autonomie získaná skrze senzory a/nebo výměnou dat s okolním prostředím, obchodování s nimi a analýzou takových dat;

• samoučení ze zkušeností a interakcí (fakultativní kritérium);

• přinejmenším částečná fyzická podpora;

• přizpůsobení chování a jednání prostředí;

• absence života v biologickém slova smyslu.

Výše nastíněný návrh Usnesení byl schválen i přes výhrady Studie, která kritizovala především výraz „chytrý robot“. Hlavní výhrady vyplývají z tvrzeného rezervovaného „západního“ přístupu a strachu z inteligentních strojů, zakořeněného v evropském kulturním prostředí v kontradikci s přístupem obvyklým na Dálném východě. 

Hrozí nám Skynet?[14] 

Kultura Jižní Koreje, Číny či Japonska roboty tradičně zobrazuje pozitivně jako pomocníky a společníky lidí. V Evropě podle autorů Studie[15] stále přetrvává strach z umělých bytostí plynoucí z antických řeckých a židovských pověstí, znovuoživený uměleckými díly posledních století. Takový Golem či Frankensteinovo monstrum, kteří se vzbouří proti svým tvůrcům, možná skutečně zaseli do podvědomí Evropanů semínka strachu ze stvoření samostatné umělé bytosti.

Ozývají se proto názory varující před riziky plynoucími z využívání a vývoje umělé inteligence. Elon Musk, majitel společnosti Tesla, od roku 2014 opakovaně upozorňuje na možné hrozby, jež umělá inteligence může pro lidstvo představovat. Podobně se vyjadřují i např. Bill Gates či Stephen Hawking.[16] Opačný přístup razí zakladatel sociální sítě Facebook Mark Zuckerberg, který nadšeně vyvíjí vlastního robotického osobního asistenta.

Byť tyto názorové rozdíly mohou být do velké míry zapříčiněny i odlišným časovým horizontem, v němž si dotyční budoucnost umělé inteligence představují, mohu jen souhlasit s názory upozorňujícími na možná úskalí přístrojů nadaných „vědomím“. Osobně největší riziko spatřuji v takové míře autonomie, kdy již člověk naprosto ztratí kontrolu i předvídavost možného jednání takto samostatného stroje.

Podcenit se navíc nedá ani bezbřehá naivita některých uživatelů, kdy např. americká FBI[17] musela opakovaně varovat rodiče před bezhlavým pořizováním a zapojováním inteligentních hraček do internetu věcí. Rodiče si totiž často nejsou vůbec vědomi rizik spojených s možným zneužitím přenášených dat, včetně např. sledování dětí či zneužití informací pro získání důvěry. 

Morální agent Smith[18] 

Jak tedy zabránit, aby se roboti vymkli kontrole?

Můžeme snad po nich chtít určitou seberegulaci? Stanfordský profesor filozofie Taylor si např. klade otázku, zda vůbec můžeme od umělé inteligence očekávat, že se vyrovná člověku, resp. nahradí ho jako mravní autoritu (moral agent) ve smyslu Kantovy etiky, tedy zda lze od ní čekat samostatná morální rozhodnutí.[19]

V rámci hlavních principů, kterými se má vývoj robotiky v Evropské unii řídit, odkazuje Usnesení i na známé Asimovy zákony robotiky.[20] Tato zmínka je předmětem kritiky Studie, jelikož jsou tato pravidla jednak poplatná době a důvodu svého vzniku jako součást literatury fikce, navíc jde o pravidla určená přímo robotům,[21] což znamená předvídat dosud nereálnou etiku strojů samotných a (ne)možnost zapracovat tato pravidla do strojových kódů. Usnesení proto směřuje tato pravidla na designéry, výrobce a operátory robotů.[22]

Přestože je jisté, že určitá pravidla pro vývoj, výrobu a šíření inteligentních strojů jsou potřebná, vhodnější než vy­užít desítky let stará pravidla z pera spisovatele se zdá návrh Usnesení na vytvoření určitého kodexu pravidel chování (Charta robotiky)[23] osob zainteresovaných v robotickém inženýrství, vycházející mj. z principů obsažených ve Smlouvě o Evropské unii a Listině základních práv Evropské unie. Charta by měla obsahovat etická pravidla zavazující inženýry, etické výbory, designéry i uživatele robotů. Jakkoliv lze nástin takových pravidel obecně přivítat, dovolím si pochybovat o povaze takového dokumentu. V případě, kdy – jak se alespoň prozatím zdá – půjde o pouhá pravidla chování na úrovni soft law, a tedy předpis nebude právně závazný, je otázka, zda se jím budou zamýšlení adresáti skutečně řídit. Zároveň návrh až na hrubé obrysy obecných pravidel opomíjí pravidla chování koncových vlastníků či jiných uživatelů robotů.

Dalším z poměrně logických regulačních mechanismů navržených Usnesením je vytvoření Evropské agentury pro robotiku a umělou inteligenci. Ta by vedle dalšího měla mít pod taktovkou systém povinné registrace pokročilých robotů.[24] Zcela oprávněným požadavkem také je, aby byly veškeré takové přístroje povinně vybaveny černou skříňkou zaznamenávající data o všech proběhlých jednáních, včetně logiky vedoucí ke tvorbě rozhodnutí.[25] Bezpečnostní pojistkou by měly být vybaveny i integrované opt-out mechanismy neboli vypínače, které by umožnily okamžité uvedení robota mimo provoz.[26]

Nezanedbatelnou součástí opatrného přístupu k umělé inteligenci je i ochrana závratného množství osobních údajů, k nimž tyto technologie otevřou přístup. Často skloňovaným principem je v této souvislosti tzv. privacy by design, do češtiny původně poněkud krkolomně překládané jako ochrana údajů již od návrhu.[27] Už brzy účinný schválený text takzvaného GDPR[28] používá termín záměrná ochrana údajů. Tento princip ve zkratce spočívá v tom, že každá nová služba či produkt využívající osobní údaje musí zohlednit jejich ochranu již při samotném vývoji. Příslušný správce či zpracovatel osobních údajů musí být schopen prokázat, že přijal vhodná bezpečnostní opatření a pravidelně monitoruje soulad s předpisy. Z relevantního ustanovení se ovšem dají dovodit tato pravidla jen nepřímo.[29]

S problematikou osobních údajů se v praxi setkávám již nyní i ve vztahu k jednodušším typům robotů. Klienti např. řeší situace, kdy ani nemají záměr sledovat své zaměstnance, ovšem např. výrobní roboti mají integrovány kamery, které v rámci továrního nastavení mj. monitorují právě i činnost okolí včetně lidských zaměstnanců. Čím sofistikovanější přístroje budou, tím náročnější bude právně i technicky ošetřit či zcela eliminovat jejich možné zásahy do osobní sféry dotčených osob.

Kladu si také otázku, zda lze požadovat a hlavně prosadit požadavky na co největší transparentnost vývoje umělé inteligence, např. na zveřejňování použitých algoritmů. Na jedné straně stojí veřejný zájem, obzvlášť pokud z nové technologie budou plynout i významná rizika. Na straně druhé pak jednak obchodní zájmy jednotlivých výrobců na uchování jejich specifických vynálezů, a zároveň i riziko, že zveřejnění přílišného množství detailů může vést k neodborným zásahům veřejnosti do podstaty inteligentních strojů, či dokonce k závažným případům jejich zneužití. Na lehkou váhu totiž nelze brát ani riziko hackerských útoků a pokusy o použití těchto nových technologií např. k teroristickým útokům. Je tudíž nezbytné použitý software co nejvíce zabezpečit i v tomto ohledu.

Kromě problémů, které budou s umělou inteligencí souviset zítra, je ovšem třeba si uvědomit rizika, která přináší její využití již nyní. Významné společnosti poskytující online služby již používají počítačové programy disponující na základě strojového učení určitou mírou umělé inteligence. Díky tomu jsou schopné např. rozpoznávat obličeje na fotografiích či cílit reklamu. Do algoritmu takto využívaného umělou inteligencí se ovšem dá jen velmi špatně nahlédnout. Je tak velice složité následně říct, proč vyšel konkrétní výsledek či jak upravit nastavení programu tak, aby tento výsledek znovu nevyšel. To má především dva problematické aspekty. Jednak z pohledu ochrany osobních údajů, kdy GDPR zintenzivňuje povinnosti správce např. prokázat a mapovat zpracování osobních údajů – jednoduše řečeno, správce musí být vždy schopen doložit, jaké osobní údaje jakým způsobem zpracovává, zda dochází k profilování a jakým způsobem. Druhým úskalím mohou být specifická práva spotřebitele, pokud jde o automatizované rozhodování např. banky o poskytnutí úvěru.[30] 

Číslo 5 žije[31] 

Značné otázky a kontroverze s sebou nese případné budoucí sebeuvědomění robotů. Už jen definovat či posoudit lidské vědomí je velice složitá filozofická otázka. Pokud připustíme, že roboti si v budoucnu budou vědomi sebe sama, neomylně z takové situace vyplynou přinejmenším dvě otázky. Za prvé, zda stroj nadaný vědomím, který v naprosté většině ohledů kvalitativně předčí člověka, skutečně neposune lidstvo ke kolapsu, či dokonce zničení. A za druhé, zda si takový vědomím nadaný stroj nakonec „nezaslouží“ ochranu vlastních základních práv. Znamenalo by to snad, že bychom museli brát ohled na potřeby robotů do té míry, že by se z „otroků“ stali ekvivalentem lidí s nároky na odměnu za práci, příznivé pracovní prostředí, či dokonce sociální kontakty?

Návrh se pokouší definovat autonomii jako schopnost rozhodovat se a realizovat rozhodnutí ve vnějším prostředí nezávisle na externí kontrole či vlivu, přičemž tato autonomie je čistě technologického charakteru a její stupeň závisí na míře sofistikovanosti robota.[32] Čím více autonomní roboti budou, tím složitější přirozeně bude určit osobu odpovědnou za jejich jednání. Proto Návrh vznáší otázku, zda by nakonec roboti neměli být nadáni právní osobností jako novou kategorií osoby.[33] Je pravda, že i právnická osoba je dle fikční teorie[34] umělým konstruktem. Tento přístup nahlížení na povahu právnické osoby je však zároveň mnohými odmítán.[35] Studie tuto koncepci taktéž výrazně kritizovala s ohledem na problémy nastíněné výše, které by právní osobnost robota přinesla, a také vzhledem k faktu, že v horizontu 10 až 15 let takový technologický vývoj očekávat nelze.[36] Usnesení proto tento koncept částečně přepracovalo, když finálně navrhuje, že specifický právní status elektronické osoby je žádoucí v dlouhodobějším časovém horizontu a jen pro nejvíce sofistikované autonomní roboty.[37]

Čínský akademik Dr. Yueh-Hsuan Weng ve svých pracích[38] nastiňuje v tomto kontextu dvě základní otázky: (i) Jakým způsobem naprogramovat roboty, aby se řídili určitými právními a etickými normami a zároveň si zachovali vysokou míru autonomie? (ii) Jak kontrolovat hodnotový systém, či dokonce morálku vytvořenou roboty? Weng dále rozebírá i stupně umělé inteligence, kterými jsou akční inteligence (action intelligence), autonomní inteligence (autonomous intelligence) a inteligence vycházející z lidského uvažování (human-based intelligence), jež prozatím nebyla dosažena. Někteří odborníci se dokonce domnívají, že její dosažení ani není možné. Sám autor koneckonců podporuje zákaz instalování takto inteligentního software především z důvodu problematického trestání takto samostatně uvažujících robotů a také právě posunu od hodnot zaměřených na člověka k duálním lidsko-robotickým hodnotám. Řešení bezpečnostních rizik souvisejících s robotickou sebekontrolou vidí Weng s kolegy v konceptu tzv. bezpečnostní inteligence (safety intelligence).[39] Za nejvhodnější přístup naopak považuje charakteristiku robotů jako bytostí tzv. třetí existence, vedle biologicky žijící první existence a zcela neživoucí existence druhé.

S názory upozorňujícími na významná rizika případného sebeuvědomění či inteligence vycházející z lidského uvažování se plně ztotožňuji. Zároveň však považuji za nutné zdůraznit, že i pokud nebude namístě hovořit o vědomí robotů či jejich osobnosti, bezprostřednější riziko může spočívat ve vytváření neadekvátních emocionálních pout člověka k robotům především ze strany obzvlášť zranitelných osob, jako jsou staří či hendikepovaní lidé či děti. Ti by mohli k robotům příliš přilnout na úkor mezilidských vztahů. Usnesení na toto riziko zcela opodstatněně upozorňuje a vyzývá k jeho preventivnímu řešení. Nabízí se i zcela praktická otázka, zda je vůbec vhodné, aby měli roboti lidskou podobu, resp. zda má být tato otázka vůbec regulována právně. 

Viník: palubní počítač s IQ 6000[40] 

Stupeň autonomie a vědomí robotů a jejich právního postavení úzce souvisí s hledáním vhodných řešení odpovědnosti za škodu způsobenou takovými stroji. Přístupy jednotlivých právních řádů se liší; některé mohou být schopné aplikovat současnou legislativu, jiné budou vyžadovat významnější změny. Zásadní bude především definice věci a míra požadovaného zavinění.

V angloamerickém právním prostředí jsou největšími překážkami stanovení osoby odpovědné za škodu způsobenou umělou inteligenci nepředvídatelnost a (očekávaná) schopnost samostatně jednat bez odpovědnosti, či dokonce právní způsobilosti.[41] V tamních zdrojích se také často opakují návrhy použít analogii k odpovědnosti za škodu způsobenou zvířaty či dětmi.

Jisté je, že české právo by se v tomto ohledu muselo novelizovat. Jelikož totiž vymezuje věc široce jako vše, co je rozdílné od osoby a slouží potřebě lidí,[42] bude v našem právním režimu, alespoň prozatím, třeba považovat robota či software bezpochyby pouze za věc.[43] Na náhradu škody způsobené věcí tedy můžeme aplikovat ustanovení občanského zákoníku o škodě způsobené použitou věcí či vadou výrobku.[44]

Za způsobenou škodu tak odpovídá ten, kdo použil vadnou věc,[45] výrobce či některé další osoby zúčastněné na distribuci.[46] Situace, kdy vznikne škoda působením prokazatelné vady přístroje, je tak v českém právu poměrně jasná. Složitější to však bude v případě, kdy o žádnou vadu nepůjde, a ke škodě tak dojde z důvodu povahy přístroje samotného. Zatímco předchozí občanský zákoník[47] používal termín okolnosti, které mají původ v povaze přístroje nebo jiné věci, jichž bylo při plnění závazku použito,[48] současný hovoří o škodě, kterou věc způsobila sama od sebe.[49] V tom případě odpovídá ten, kdo nad věcí měl mít dohled, popř. její vlastník, ledaže prokáže, že náležitý dohled nezanedbal. Na povaze zmíněného ustanovení se však odborníci nemohou shodnout. Zatímco někteří se domnívají, že jde o objektivní odpovědnost s možností liberace,[50] dle jiných jde o subjektivní odpovědnost, při které zavinění spočívá v zanedbání náležitého dohledu nad věcí.[51] Posledně zmíněný závěr, že jde o odpovědnost subjektivní, podporuje také ustanovení občanského zákoníku, dle něhož musí být v zákoně výslovně uvedeno, že jde o objektivní odpovědnost.[52] Podle důvodové zprávy má dané ustanovení, které je proti předchozí úpravě novinkou, přiblížit české právo standardům, z nichž vycházejí civilní kodexy kontinentální Evropy.[53] Toto odůvodnění je však předmětem kritiky a zpřísněná odpovědnost za věci, jež nejsou vadné ani zvlášť nebezpečné, je některými považována za příliš přísnou.[54]

Zanedbání dohledu povinné osoby je použitelné i v zahraničních právních režimech, jak prokázala nedávná první smrtelná havárie automobilu Tesla v režimu autopilota. Závěry vyšetřování potvrdily obhajobu výrobce automobilu, dle kterého se řidič nevěnoval provozu, ač k tomu byl i přes aktivovaný samořídící režim povinen.[55] To jen potvrzuje, že nejjednodušší obranou výrobců současných (polo)autonomních vozidel je právě trvat na tom, že řidič je vždy povinen sledovat provoz a v případě potřeby neodkladně zasáhnout, a tedy, že se nelze zcela spolehnout na automatické řízení.

Zajímavé je, že zmíněná ustanovení jsou typicky použitelná i pro škodu, resp. újmu, způsobenou při poskytování zdravotních služeb, včetně např. odpovědnosti poskytovatele za újmu vzniklou v důsledku očkování.[56] Významným rozdílem samozřejmě je, že tzv. povinné očkování probíhá na příkaz státu, takže se zdá spravedlivé, aby za nežádoucí účinky (nikoliv vadné) vakcíny nesl odpovědnost právě stát. Tento rozdíl však může být minimalizován, pokud v budoucnu budou přijaty právní předpisy, které závazně stanoví, jakým způsobem má autonomní vozidlo v některých situacích reagovat. Co mají však obě situace bezpochyby společné již nyní, jsou jednak potenciálně lidsky velice významné následky (na zdraví a na životě), ale i otázka, nakolik bude v těchto případech docházet k situacím, kdy povinná osoba takzvaně ustojí svou situaci a prokáže, že jednala lege artis a náležitý dohled nezanedbala. Pro poškozené tak bude jistě velice obtížné smířit se se situací, kdy bude uzavřeno, že za nastalou situaci není nikdo (a nic) odpovědný, byť ke škodě došlo přímým působením daného stroje. Co v případě, že robot záměrně provede úkon směřující ke škodě, protože situaci zkrátka špatně vyhodnotí? Bude možné takové chybné rozhodnutí považovat za vadu věci[57] nebo spíše jen právě za důsledek spočívající v jeho povaze? Z těchto důvodů se tak může zdát vhodnější předchozí právní úprava.

U průmyslového využití robotů je samozřejmě možné aplikovat i ustanovení o škodě způsobené provozní činností, či dokonce provozem zvlášť nebezpečným.[58] Použitelná dle specifické povahy použitého stroje mohou být taktéž ustanovení o škodě způsobené provozem dopravních prostředků.[59]

Naopak v úvahu, alespoň prozatím, nepřipadají ustanovení českého práva o plnění za pomoci jiné osoby,[60] byť zamyšlení nad původním významem zásadyrespondeat superior sahající do římskoprávní úpravy otroctví je jistě zajímavé.[61]

Domnívám se ovšem, že je pravděpodobné, že se tyto principy odpovědnosti za škodu způsobenou použitím věci stanou v budoucnu, kdy budou stroje schopny skutečně zcela autonomního rozhodování, nespravedlivé[62] a bude vhodnější je nahradit např. zvláštní odpovědností výrobce i v případech, kdy nepůjde vyloženě o vadu výrobku. Resp. současné řešení, kdy odpovědnost za přístroj, který se samostatně rozhoduje, spočívá na dohlížející osobě či vlastníku, by bylo velice neatraktivní pro případné kupce takových inteligentních robotů s ohledem na přílišné a stěží odhadnutelné riziko škod, jež takové stroje mohou svým jednáním způsobit. 

Astro Boy[63] 

Jak se tedy k otázkám regulace umělé inteligence staví některé jiné státy? Jak již bylo naznačeno, v čele vývoje robotiky i jejího pozitivního zobrazení v kultuře byly vždy státy Dálného východu.

Jedním z nich je přirozeně Japonsko. Již od roku 2003 zde existuje zvláštní zóna „Tokku“ pro robotické empirické testování a vývoj, v níž je možné v běžném prostředí testovat dvounohé roboty bez zvláštní licence.[64] V roce 2015 představilo Japonsko Novou robotickou strategii, jejíž součást tvoří vize, strategie a akční plán.[65] Tato strategie vedla mj. k vytvoření iniciativy Robot Revolution Initiative (RRI),[66] sdružující společnosti působící v této oblasti. Ta nedávno navázala spolupráci i s českým Svazem průmyslu a dopravy ve věcech týkajících se internetu věcí a průmyslu 4.0.[67] V Japonsku se také pravidelně schází Robot Revolution Realization Council, odpovědný za revizi relevantního práva[68] a následnou (de)regulaci. Na základě jeho šetření bylo v časovém horizontu do roku 2020 navrženo vypracovat právní rámec pro ochranu spotřebitelů a zároveň vytvořit nový právní systém uvolňující dosavadní regulaci vedoucí k efektivnímu využití robotů, např. prostřednictvím podpory praktického testování za účelem lépe odhadnout rizika spojená s robotikou.[69]

Nijak pozadu nezůstává Jižní Korea. Ta v roce 2008 přijala např. zákon o vývoji a distribuci inteligentních robotů.[70] Ten byl od té doby již několikrát novelizován, naposledy v lednu 2016. Kromě již zmíněné definice inteligentního robota obsahuje např. úpravu certifikace kvality. Dále byla v roce 2012 přijata Korejská charta robotické etiky, jež nahradila předcházející dokument z roku 2007, ovšem sleduje spíše politické než právní otázky.[71] Jižní Korea přesto neustává a letos její Ministerstvo obchodu, průmyslu a energie představilo iniciativu týkající se robotického průmyslu.[72] Tento program zahrnuje aktivní umístění inteligentních robotů do rehabilitačních center, nemocnic a poštovních úřadů, či podporu vývoje humanoidních robotů ve speciálním státním centru. Zároveň je navržena revize výše zmíněného zákona s důrazem na využití robotů veřejnými institucemi.

Ve Spojených státech amerických se právní úprava této oblasti začíná také více projevovat, i když prozatím je spíše kusá a roztříštěná. Soustředí se převážně na bezpilotní letouny, včetně dronů, a autonomní vozidla. V roce 2017 přijalo už 33 států legislativu upravující autonomní vozidla.[73] Již o rok dříve vydalo Ministerstvo dopravy první příručku týkající se pravidel pro autonomní vozidla.[74] Obamova administrativa ke konci jeho úředního období také zveřejnila na podzim roku 2016 zprávu nazvanou Příprava na budoucnost umělé inteligence[75] a související Národní strategický plán výzkumu a vývoje umělé inteligence.[76]

Ani některé evropské státy nechtějí zůstat pozadu. Britský parlament zveřejnil v roce 2016 zprávu o robotice a umělé inteligenci.[77] Uzavírá v ní ovšem, že ačkoliv mají dané technologie potenciál významně změnit způsob, jakým žijeme a pracujeme, britská vláda v současnosti nedisponuje odpovídající strategií a vyzývá k ustanovení zvláštní komise, která by učinila odpovídající výzkum v oblasti sociálních, etických a právních aspektů.

Usnesení prostřednictvím čl. 225 SFEU volá po celoevropské regulaci prostřednictvím budoucí směrnice. Navrhuje dva možné přístupy k řešení odpovědnosti, a zároveň vyzývá k jejich detailní analýze. Z té by mělo vyplynout, zda vhodnějším přístupem je princip absolutní odpovědnosti, či zda by byla odpovědná osoba určena na základě posouzení rizik. Nikoliv tedy nutně jako někdo, kdo jednal nedbale, ale spíše ten, kdo měl být za daných okolností schopen minimalizovat riziko a vypořádat se s negativními dopady činnosti robota.[78] Odborně rozpracován má být také právě případný systém povinného pojištění, který by se mohl blížit konceptu pojištění povinného ručení u automobilů, včetně fondu pro pokrytí nepojištěných škod.[79] Právě takové pojištění sice může zvýšit počáteční náklady na pořízení inteligentních robotů, zároveň ale může být vhodným kompromisem pro všechny zúčastněné. V tomto kontextu přirozeně považuji za nezbytné posoudit soulad v budoucnu navrženého systému pojištění s národní právní úpravou.[80]

Osobně se také ztotožňuji s potřebou legislativy na minimálně evropské, ne-li dokonce mezinárodní úrovni. S ohledem na konkurenceschopnost evropských podniků není možné nechat příslušnou úpravu na členských státech, což by v případě chybějící či příliš striktní regulatorní právní úpravy vedlo k odlivu výrobců do zahraničí. Pokud nepřijmeme závazná pravidla přiměřeně regulující tuto oblast, nebudeme schopni konkurovat zahraničí. Zároveň je třeba myslet nejen na vývoj a distribuci robotů, ale i na jejich testování v běžném provozu. Zatímco v Japonsku, jak zmíněno výše, již více než deset let existují příslušné zóny, např. v Italii narazili při snaze testovat robota sbírajícího odpadky v praxi na neochotu pojišťovny vyčíslit a pojistit z této činnosti vyplývající riziko.[81]

Otázkou zůstává, zda je směrnice skutečně vhodným legislativním nástrojem s rizikem případných národních odchylek. Cílem by měl být budoucí předpis dostatečně konkrétní, aby umožnil vyvíjet inteligentní stroje v souladu s nejnovějším technologickým pokrokem i smysluplně odškodňovat případné související škody, a zároveň natolik pružný, aby v průběhu několika málo let zcela nezastaral. 

Knight Rider[82] 

Asi nejpředstavitelnějším příkladem využití umělé inteligence pro širokou veřejnost jsou autonomní vozidla. S těmi se ovšem pojí zároveň specifické etické otázky související s chováním, či dokonce rozhodováním takových strojů v krizových situacích. Ten nejspíše nejznámější, takzvané tramvajové dilema, se datuje minimálně do šedesátých let minulého století.[83] V jeho základní verzi se po kolejích řídí neovladatelná tramvaj. Na její trati je pět osob, které nemohou uhnout, a na vedlejší jedna osoba. Dotazovaná osoba má možnost neudělat nic a nechat tramvaj jet po hlavní trati, čímž dojde ke smrti pěti lidí, anebo aktivně přehodit výhybku na vedlejší trať, což povede k neodvratitelné smrti jedné osoby. Podobná zadání se objevují v nespočetně verzích, včetně těch, kdy některé ohrožené osoby mohou být osobami blízkými dotazovanému.

S vývojem autonomních vozidel tyto modelové situace intenzivně nabývají na praktickém významu, když předpokládáme, že autonomní vozidlo by pro takové situace ve skutečném provozu mělo být předem naprogramováno, popř. by mělo být schopné se operativně rozhodnout. Aktualizovanou verzí tramvajového dilematu je např. takzvané tunelové dilema.[84] Autonomní vozidlo se v něm velkou rychlostí blíží k tunelu, když vtom mu do cesty nečekaně vběhne dítě. Otázkou je, jak má automobil zareagovat, tedy zda může obětovat pasažéra pro záchranu dítěte či nikoliv, a také kdo má takové rozhodnutí předem určit.

Nastíněné situace samozřejmě nejsou černobílé a nemají jediné správné řešení. Jako nejčastěji zmiňované řešení zaznívá tzv. utilitaristický přístup,[85] dle kterého by v daném případě bylo nejvhodnějším řešením takové, které vede k co nejmenšímu utrpení co nejmenšího počtu lidí. Podstatné tak mají být pouze počty osob v ohrožení. Opakem tohoto přístupu může být např. sobecký přístup, kdy bude (alespoň do určité míry) preferována bezpečnost posádky.

Co do přístupu k řešení podobných dilemat můžeme diskutovat např. o vozech typu tank (jede vpřed a bezpečnost posádky je pro něj primární, ať se venku děje cokoliv), či naopak o kladném hrdinovi (v souladu s utilitárním principem vždy myslí na blaho co největšího počtu osob) nebo o kompromisech mezi těmito dvěma extrémy (např. vůz, který se rozhoduje podle počtu ohrožených osob, ale v případě rovnosti upřednostní posádku před chodci, anebo bere v potaz případné porušení pravidel silničního provozu jeho dalšími účastníky).

Světové automobilky se shodně vyjadřují, že právě v autonomních vozidlech vidí budoucnost, a proto již intenzivně pracují na jejich vývoji. Ten jim ovšem občas naruší právě legislativní zásah. Např. Mercedes-Benz se dříve nechal slyšet, že vyvíjí automobil, který bude mít naprogramovanou preferenci vlastní posádky bez ohledu na případné vnější ztráty.[86] V Německu je ovšem aktuálně přijímán zákon,[87] zavádějící v těchto ohledech princip ochrany slabších. Mezi další pravidla, která tato úprava přináší, patří např. povinnost řidiče být celou dobu provozu za volantem, zároveň ale umožňuje testovat vozidla, ve kterých budou řidiči moci sundat ruce z volantu a spustit oči z vozovky. Vyžadováno je vybavení černou skříňkou. Řidič má odpovídat za incidenty nastalé během jeho dozoru, pokud však půjde o selhání systému, bude odpovědnost spočívat na výrobci. Zákon má být zároveň za dva roky zrevidován ve světle dalšího technologického vývoje.[88]

Neměli bychom však zapomínat, že jde jen o modelové situace, řešené teoreticky, přičemž v praxi nemusí být k dispozici natolik přesná „diagnostika“, aby bylo možné dopředu spolehlivě kalkulovat, kolik z možných obětí skutečně zahyne či utrpí závažné zranění. Hrát roli samozřejmě bude např. i předchozí zdravotní stav či tělesná konstituce, takže vždy rozhodně nepůjde o jednoduché počty, zda je pět skutečně více než jeden.

Další otázky souvisejí se státní regulací. Jakým způsobem má stát regulovat provoz samořiditelných vozidel, ba dokonce, zda v případě, že bude prokázáno, že jsou tato vozidla bezpečnější než ta řízená lidmi, zda by měl stát dokonce zakázat řízení lidmi?[89]

Kdo má tedy určovat, jakým způsobem se bude vozidlo chovat? Má jít o čistě individuální rozhodnutí každého vlastníka? Nebo má být potlačena jeho autonomie a stroj se má řídit továrním nastavením naprogramovaným výrobcem?

Massachusettský technologický institut v rámci zkoumání podobných situací provozuje zvláštní webové stránky, na kterých mohou zájemci testovat svá rozhodnutí v modelových případech.[90] Z jejich zjištění je patrný konflikt v tom, že lidé chtějí autonomní vozidla co nejpřívětivější k chodcům do okamžiku, kdy by auto mělo obětovat ve prospěch chodců je osobně. Podobně byla většina lidí proti řešení, že by vlády měly zajistit, aby autonomní vozidla byla naprogramována podle utilitaristických principů. Podle průzkumu by byli dotazovaní pouze z jedné třetiny ochotni pořídit si takto naprogramovaný autonomní vůz, v porovnání s neregulovaným vozem, který může být naprogramován jakýmkoliv způsobem.[91]

Technologie autonomních vozidel navíc přináší i další etické otázky. Jakým způsobem se mají vozy postavit k situacím, kdy někdo bude takovýto vůz „šikanovat“ právě proto, že bude vědět, že je nějakým konkrétním způsobem naprogramovaný? Což souvisí s otázkou, zda mají být takto přednastavené situace předem sděleny pasažérům, či dokonce být patrné okolním účastníkům silničního provozu? A neměl by v takovém případě být od posádky dokonce vyžadován informovaný souhlas?

Přes výše nastíněné etické otázky však za stěžejní problém autonomní dopravy stále považuji otázku odpovědnosti. Byť souhlasím, že je nezbytné brát etiku v potaz již při samotném vývoji autonomních vozidel, zároveň se plně ztotožňuji s názory, že za účelem umožnění technologického rozvoje bude třeba učinit kompromisní rozhodnutí a tyto otázky určitým způsobem rozhodnout. 

Hasta la vista, baby[92] 

Velké množství diametrálně odlišných názorů můžeme nalézt i ve vztahu k předpokládaným dopadům očekávané technologické revoluce na trh práce. V tomto ohledu se samozřejmě nabízí historická analogie s revolucí průmyslovou. Ve vztahu k ní se domnívám, že již můžeme uzavřít, že z dlouhodobého hlediska nevedla k trvalému navýšení nezaměstnanosti.[93] Ale zatímco např. z průzkumu skupiny KPMG z roku 2015[94] vyplývá, že užívání vozidel bez řidiče či vzájemně propojených může kromě úspory na životech jen ve Velké Británii vytvořit 320 000 nových pracovních míst, jiní tento názor nesdílejí a naopak se domnívají, že přicházející technologie a změny, které přinášejí, jsou jiného rázu než v historii a skutečně mohou vést k rapidnímu nárůstu nezaměstnanosti.[95]

Tyto obavy jistě nelze brát na lehkou váhu ani v prostředí českého trhu. Podle loňské srovnávací analýzy OECD je v České republice ohroženo automatizací až 55 % pracovních pozic, přičemž 10 % z nich je ohroženo významně. Jde přitom o jedna z největších čísel v porovnání s ostatními státy.[96] V rámci volební kampaně tak některé strany již přicházejí např. s (prozatím nekonkrétními) návrhy na zvláštní zdanění robotů.[97]

Bez ohledu na přesná čísla rušených pracovních míst je jisté, že kromě možného úbytku některých pozic povede rozšíření inteligentních robotů zcela jistě současně k vytvoření nových. Dokumenty vypracované v rámci EU tak zcela oprávněně vyzývají ke kladení dostatečného důrazu na tyto trendy v oblasti vzdělávání, tedy na nezbytnost rekvalifikace a podporu technických oborů. Ryze pozitivní dopad pak může mít rozvoj robotiky na problémy vyplývající ze stárnutí evropské populace.

Snad ani nemá smysl detailně polemizovat nad očekávanými odhady přesných čísel, které nové technologie přinesou. Je však více než vhodné obecně se zamýšlet nad jejich pravděpodobnými dopady na společnost a řešit negativní důsledky pokud možno preventivně. Zavírání očí před neoddiskutovatelným technologickým pokrokem ještě nikomu a ničemu neprospělo.

Ruku v ruce s ostatními společenskými změnami pak musí jít i legislativní vývoj. Právo tak na ně bude muset chtě nechtě zareagovat. I když v této turbulentní oblasti jistě bude více než kdy dříve extrémně složité, aby právní předpisy držely prst na tepu doby, tedy byly dostatečně flexibilní a odpovídaly technologickému vývoji.

Při práci na nových předpisech bude dle mého názoru především nezbytné pokrýt možná rizika a vhodně upravit odpovědnost za vzniklé škody. Je přitom třeba mít na paměti různé zájmy jednotlivých zúčastněných (výrobců, prodejců, uživatelů či pouhých náhodných poškozených) i prostou psychologii obětí. Je přirozené, že přímo poškození či pozůstalí chtějí nalézt viníky dané situace, a zároveň lidé mívají jiný přístup, pokud jde o ně samé či jejich blízké.

Vývoj umělé inteligence tak bude zákonitě muset přinést odpovědi i na tyto otázky, případně stanovit hranice, co ještě mohou tyto stroje rozhodovat samy a co musí zůstat jako přímá a aktivní volba člověka. Zároveň je třeba adekvátně reagovat na již přítomné problémy především v oblasti ochrany osobních údajů.

Tak jako tak, je nyní téměř jisté, že inteligentní roboti a softwary nadané umělou inteligencí budou nedílnou součástí naší budoucnosti. Postava Terminátora zmiňující, že se ještě uvidíme, pomalu, ale jistě opouští pole science fiction a stává se skutečností.