Odpovědnost umělé inteligence a informační útvary bez právní osobnosti

Autonomní systémy jako původní právní fenomén

Virtualizace je procesem, kdy dochází ke změně formy při zachování obsahové podstaty. Virtualita tedy není opakem reality. Virtuální či virtualizované fenomény sdílejí svoji podstatu s fenomény reálnými a od svých reálných obdob se liší jen svými pozitivními projevy.[1]

Virtualizaci obvykle používáme tehdy, chceme-li se, typicky díky nové technologii, vyrovnat s problémy fungování nějakého fenoménu. Za úspěch virtualizace považujeme, pokud virtualizovaný celek trpí díky formální transformaci méně závažnými problémy než původní celek reálný. Ať jde o fenomén smlouvy, majetku, nebo třeba advokátní kanceláře, je tedy virtualizace úspěšná tehdy, pokud příslušný fenomén po jejím provedení v praxi lépe funguje.[2]

Jedním z nejdůležitějších faktorů úspěšnosti virtualizace je adekvátní specifikace podstatných a formálních komponent příslušného fenoménu. Příkladně u písemného právního jednání je tedy třeba odhalit, že jeho podstatou není nosič ani jedinečnost originálu, ale projev vůle zachycený písmem.

Nasazení informačních a komunikačních technologií vede k relativně rychlé a masivní virtualizaci různých právně relevantních fenoménů, od záležitostí majetkových přes společenské otázky až po fundamentální axiomy etické. Díky střídavě úspěšné metodologické reflexi virtualizace se vědě práva informačních technologií víceméně daří zhruba od 80. let minulého století reagovat na to, co Kuhn nazývá nutnými vědeckými revolucemi.[3] Obstojně tedy zvládáme např. elektronickou dokumentaci právního jednání nebo zprostředkovanost lidského chování online a intenzivně se potýkáme např. s digitálním dědictvím či virtualizovanou perverzí a destruktivitou.

V tomto kontextu by se mohlo zdát, že umělá inteligence přináší právu podobný typ výzvy, jako mu přinesl osobní počítač v 80. letech, internet v 90. letech a sociální sítě v první dekádě třetího tisíciletí.[4] Skutečnost je však poněkud složitější. Masivní nástup umělé inteligence do běžného života člověka a společnosti totiž podle všeho nepřináší do práva jen potřebu adaptovat se na změnu formy, ale výjimečně skutečnou nutnost zabývat se zcela novým regulatorním fenoménem.[5]

Z praktického hlediska to vypadá, že právní rámec fungování autonomních systémů lze řešit jednoduchou analogií. Samořiditelné auto se totiž v podstatě jeví jako normální auto, jen s tím rozdílem, že jej neřídí člověk. Analogicky pak můžeme pracovat s autonomním brokerem obchodujícím na finančním trhu, sekačkou na trávu nebo ropným tankerem.

Problém analogie však v tomto případě spočívá ve shora konstatované obtíži se specifikací obsahu a formy. Obsahovým těžištěm auta, relevantním pro celou konstrukci právních pravidel od civilní odpovědnosti po dopravní předpisy, totiž nejsou kola nebo motor, ale řidič.[6] Z pohledu práva je tedy zásadní chybou považovat autonomní automobil za něco podobného jako normální auto, jen s tím rozdílem, že autonomní auto se řídí samo. Namísto toho je třeba dívat se perspektivou práva na autonomní automobil jako na software, pouze s tím rozdílem, že jeho terminál váží půldruhé tuny, jezdí po silnici a má motor, kola a nádrž plnou hořlaviny.[7]

Předpoklady právního řešení odpovědnosti autonomních systémů

Z výše uvedeného může vyplynout, že právní řešení autonomních systémů by přece jen mohlo být nakonec předmětem analogie. Jen nepůjde v případě autonomních automobilů o analogii s automobily, ale se softwarem. Podstata (skutečně) autonomních systémů však spočívá v tom, že software, který takový systém řídí, se nepodobá ničemu, s čím má právo doposud alespoň nějaké (byť nevalné) zkušenosti.[8]

Software, jak jej známe, je sadou instrukcí vytvořenou přímo nebo zprostředkovaně člověkem. Naprogramovaný systém má díky tomu předem stanovené funkcionality a, zjednodušeně řečeno, dělá to, co mu předurčil jeho programátor. Ve složitějších případech, jako např. u průmyslových robotů, je nejprve vytvořen základní kód a systém je pak doprogramován na místě k výkonu konkrétní operace. Každopádně se ale jedná o systém, u nějž se účel jeho fungování kryje s účelem jeho člověkem vytvořeného programu.

Autonomní systém je naproti tomu naprogramován nikoli primárně k výkonu určité činnosti, ale k tomu, aby se příslušnou činnost sám naučil vykonávat. Autonomie tady nespočívá v tom, že by byl systém jen schopen autonomně existovat a fungovat, ale její podstata je mnohem hlubší. Autonomní systém totiž neustále a nezávisle na svém původním tvůrci generuje svůj vlastní kód (program).[9]

Fungování autonomních systémů lze dobře demonstrovat na nepříliš úspěšném pokusu společnosti Microsoft vytvořit autonomního robota pro sociální síť Twitter.[10] Úkolem robota označeného jako Tay bylo vyhodnocovat obsah komunikovaný v rámci této sociální sítě a podle toho vytvářet, pokud možno, co nejpopulárnější příspěvky. Robot nebyl předem naprogramován k tomu, aby se věnoval určitým tématům nebo používal určitou slovní zásobu. Jeho úkolem bylo vymýšlet si zcela autonomně vlastní tweety a jeho cílem bylo stát se populárním mezi ostatními uživateli.

Krátce poté, co se robot rozběhl, začal šířit nenávistné příspěvky. Částečně to bylo kvůli převážně nenávistnému charakteru populárních příspěvků na síti Twitter, a zčásti se jednalo o zlomyslnost ostatních uživatelů, kteří robota škodolibě ponoukali k projevům rasismu, sexismu, homofobie apod.

Pokud by šlo o standardně fungující software, bylo by řešení jednoduché, tj. robota odstavit a přeprogramovat, resp. mu kódem zakázat šíření nenávisti (tj. např. odebrat určitá slova z jeho slovníku). Tay ale nebyl člověkem naprogramován k tomu, aby komunikoval, ale k tomu, aby se učil komunikovat a sám se za tím účelem průběžně programoval. Výsledný kód (software), na jehož základě posílal (nebo možná posílala) Tay své tweety, si Tay průběžně vytvářel sám. Člověk nebyl schopen číst ani upravovat jeho neustále se měnící provozní kód, v lidských silách bylo pouze provádět úpravy kódu, který robot používal ke svému učení. Po dvou neúspěšných pokusech o přeprogramování nakonec Microsoft každopádně konstatoval, že s nenávistným vystupováním Taye nic nenadělá, robota vypnul a s omluvou se jal mazat tisíce katastrofálně nenávistných tweetů.[11]

Tento příklad, jakkoli je sám o sobě spíše bagatelní a snad i trochu úsměvný, demonstruje hned několik faktorů, kvůli kterým je dobrý důvod považovat autonomní technologii za genericky nový regulatorní fenomén. Předně se ukazuje, že konečné chování autonomního robota, ať půjde o auto, nebo o termostat, nelze nikomu přičíst. To jednak proto, že nikdy není možné zpětně rekonstruovat operační kód robota, a tím zjistit, proč robot něco udělal nebo neudělal. Současně s tím není logicky možné ani určit, jaké faktory se podepsaly na operačním kódu robota, tj. proč se ve výsledku robot sám naprogramoval určitým způsobem. Vyjma zcela frapantních případů programátorské chyby totiž není možné posoudit, zda se robot do určitého stavu dostal vinou učícího se algoritmu, dříve zpracovaných dat nebo dat z konkrétní problémové situace.[12]

Zjednodušeně řečeno, je tedy sice možné dodatečně zjistit, co robot udělal (tj. že např. do něčeho narazil), ale už není možné odhalit proč. Nabízí se snad v tomto směru vzdálená paralela se zvířetem, u něhož rovněž nelze rekonstruovat strukturu korelací vedoucí k nějakému výslednému chování.[13] Snaha objasnit, zdokumentovat, či dokonce prokázat důvod chování robota je v tomto směru podobně absurdní jako snaha odhalit, zda důvodem agresivity psa je chyba šlechtitele, trauma z někdejšího vztahu s ostatními štěňaty, špatný postup cvičitele, nezájem minulých majitelů nebo třeba nějaký momentální vliv typu hluku z ulice, počasí nebo úplňku.

Vedle nemožnosti objasnit či rekonstruovat důvod jednání autonomního robota je druhým právně relevantním momentem subjektivní vrstevnatost této technologie. Ta představuje důvod, proč při řešení otázek odpovědnosti nelze postupovat analogicky např. se shora zmíněnými zvířaty (k tomu viz dále).

Typický autonomní robot, tj. např. autonomní automobil, může mít na první pohled svého unikátního de iure vlastníka či provozovatele. Už tyto kategorie jsou však vzhledem k odpovědnosti za škodní následky provozu problematické, neboť příkladně u autonomního vozidla může jednomu subjektu patřit příslušný hardware (tj. samotné vozidlo), jiného vlastníka může mít síť, z níž robot přijímá data bezprostředně ovlivňující jeho chování, a jiné vlastníky (nebo „vlastníky“) mohou mít různé kategorie těchto dat nebo kódu. Robota jako funk­ční celek tedy nemusí vlastnit ani provozovat identický subjekt, neboť může jít o komplexní strukturu, k jejímž jednotlivým součástem může mít absolutní práva vlastnická či jiná více subjektů současně.

Vlastník či provozovatel hmotného těla autonomního systému navíc může mít v praxi jen minimální kontrolu nad tím, co nebo jak jeho robot provádí. Výsledné chování robota může být totiž kauzálně dáno příčinami, které jsou zcela mimo kontrolu jakéhokoli právem uznaného subjektu a jejichž podíl na konkrétním chování robota může být proměnlivý a ve výsledku totálně diskutabilní.[14]

Psa, který má de iure jednoho majitele, lze tímto majitelem naproti tomu nejen cvičit, ale lze jej přivázat na vodítko nebo mu dát na tlamu košík. Majitel se rovněž může rozhodnout, že psa nepustí mezi děti nebo s ním nepůjde ven, když je bouřka. Majitel robota (resp. jeho hmotné části) ale naproti tomu takové možnosti kontroly nad svým majetkem nemá – naopak může být jím vlastněná autonomně fungující hmotná věc zcela bez jeho vědomí kauzálně kontrolována faktory, na něž může mít určující vliv blíže neurčený okruh třetích osob. Jediné, o čem se může majitel skutečně autonomního robota (doposud) svobodně rozhodnout, je, zda jej zapne nebo vypne.

Ze subjektivního hlediska se v případě autonomních systémů musíme navíc potýkat s pluralitou osob, které nemají k robotovi subjektivní práva, ale jejichž kontinuální činnost (nebo nečinnost) přímo determinuje jeho chování. Zatímco šlechtitel nebo cvičitel předává psa zcela do péče nového vlastníka, je autonomní systém stále bezprostředně závislý na tom, jakým způsobem jsou mu poskytovány různé druhy služeb. Autonomní vozidlo je tedy závislé na tom, jaká data o provozu, o počasí nebo o řešení krizových situací získává nikoli jen z vlastních senzorů, ale z různých externích zdrojů – typicky ze sítí elektronických komunikací nebo z uzavřené komunikace s ostatními vozidly nacházejícími se v dosahu příslušné komunikační technologie. Škodné chování autonomního vozidla tedy může být ve výsledku zapříčiněno (zcela bez kontroly vlastníka nebo uživatele) např. chybou v datech o počasí dodaných poskytovatelem meteorologických služeb, vadou senzoru na sousedním automobilu nebo (nejčastěji) všemi uvedenými faktory dohromady.

Z právě uvedeného plynou dva relevantní závěry pro otázku právní kvalifikace chování autonomních systémů. V typických případech škodních následků provozu autonomního systému jednak nebude možné určit a prokázat, kdo nebo jak škodu zavinil. K tomu přistupuje ještě o něco problematičtější obecný závěr týkající se skutkové otázky škodních událostí, a to, že v typických případech provozu autonomních systémů nebude zpravidla kvůli pluralitě subjektů poskytujících technologie, data a služby možné určit ani to, kdo konkrétně vlastně škodu nebo jinou újmu v právním smyslu způsobil.[15]

Obchodní dynamika soukromoprávní odpovědnosti autonomních systémů

Pokud jde o odpovědnostní model pro autonomní systémy, není žádný z výše popsaných faktorů sám o sobě nový nebo fatální. Rozhodovací autonomii lze totiž řešit analogií s domácím zvířetem,[16] nemožnost prokázat zavinění je řešitelná prostřednictvím odpovědnosti za škodu způsobenou věcí[17] nebo provozní činností[18] a s pluralitou subjektů se lze vypořádat za užití zásadní zákonné solidarity[19] s možností specifikace.[20] Kombinace všech shora popsaných aspektů fungování autonomních systémů je však natolik specifická, že žádný ze stávajících odpovědnostních nástrojů nemůže zajistit tzv. autonomní ekonomice funkční regulatorní prostředí.

Prvním problémem aplikace stávající právní úpravy (české či jiné v rámci kontinentální Evropy) je její metaforičnost. Investoři do autonomních technologií v tomto směru unisono volají po transparentní a předvídatelné právní regulaci soukromoprávní odpovědnosti, která vnese větší míru jistoty do otázek typu, kdo a za co má v případě škodní události de iure odpovídat.[21]

Zajímavé v této souvislosti je, že ani na evropské úrovni jsme se doposud nesetkali s lobby průmyslových konglomerátů nebo finančních institucí snažící se parametry soukromoprávní odpovědnosti nastavit nebo posunout určitým směrem. Na rozdíl např. od agendy osobních údajů zde tedy neexistují tlaky na to, aby byly např. odpovědnostní tituly nastaveny benevolentněji směrem k vlastníkům hardware nebo naopak k poskytovatelům služeb dodávajícím autonomním systémům data potřebná k jejich fungování.

Důvodem dosavadní absence jednoznačných zájmů technologického průmyslu nebo poskytovatelů finančních služeb v problematice odpovědnosti za škodní události autonomních systémů je skutečnost, že v relevantních odvětvích bude s největší pravděpodobností kryto škodní riziko pojištěním. En bloc přičtení škodních následků určité skupině subjektů bude tedy v praxi znamenat pouze zatížení příslušné skupiny nikoli přímo odpovědností, ale povinností opatřit si odpovídající pojistku. Náklady na pojištění se promítnou do celkové nákladnosti příslušné technologie a v konečném důsledku je tak či onak ponese koncový uživatel příslušné autonomní technologie.

Pro průmysl (včetně finančních institucí) tím pádem není podstatnou otázka, ve které fázi vývoje nebo nasazení příslušného produktu budou náklady na pojištění generovány, ale jaká bude jejich výše. Pokud totiž vyjde pojistný model příliš draho, příslušná technologie se kvůli tomu nebude mít možnost ekonomicky prosadit. Platí přitom, že míra nejistoty ohledně právní kvalifikace deliktního postavení různých subjektů tvořících shora zmíněné vrstvy autonomních technologií je přímo úměrná výši výsledné pojistné kalkulace. Zjednodušeně řečeno, jsou tedy pojistky tím dražší, čím menší je jistota ohledně konkrétní interpretace pojmů jako „škůdce“, „způsobit škodu“ nebo „důvody zvláštního zřetele hodné“ (resp. jejich obdob v různých členských státech EU nebo Evropského hospodářského prostoru).[22]

Přestože to na první pohled nemusí být evidentní, probíhá nyní na poli soukromoprávní odpovědnosti jedna z rozhodujících bitev o budoucí mapu autonomního průmyslu. Stát nebo spíše část světa, která nastaví podmínky soukromoprávní odpovědnosti správně, bude tím okamžitě indukovat vývojový a aplikační potenciál a získá díky tomu oproti svým konkurentům náskok v mnoha ohledech.

Pro Evropu je tato situace zvlášť delikátní, neboť disponuje v porovnání se Severní Amerikou nebo Asií hned několika silnými, avšak relativně křehkými devizami. Vedle bezprecedentní kumulace kreativní a inventivní kapacity a solidní základny soukromého kapitálu ochotného k technologickým investicím můžeme především v rámci EU sledovat též unikátní tendenci investovat veřejné prostředky do vědecké aktivity s vysokou mírou rizikovosti.[23] Skutečnost, že je veřejná moc ochotna hromadně vkládat veřejné prostředky do projektů, u nichž je velká pravděpodobnost, že vůbec nic nepřinesou, svědčí právě nákladnému a přitom rizikovému výzkumu a vývoji v oblasti umělé inteligence. K tomu přistupuje v Evropě ještě bezprecedentní datová základna daná kombinací kulturní diverzity, vyspělostí spotřebitelského trhu (včetně oblastí, jako je zdravotní péče), datovou produkcí veřejného sektoru nebo bezkonkurenčním rozsahem kulturního dědictví.

Evropa byla v podobné situaci i na konci 70. let, kdy byly položeny (nikoli však zde) základy současného spotřebitelského průmyslu informačních a komunikačních technologií. Tehdy zde však v porovnání se současností chyběla kvůli železné oponě jednak silnější koncentrace kapitálu k technologickým investicím a nesrovnatelně slabší byl i potenciál toho, co nyní označujeme za jednotný trh.

V 90. letech, kdy se naplno začala rozvíjet datová ekonomika, bylo již nevyužití evropského technologického, kulturního a ekonomického potenciálu jednoznačným důsledkem absence politické vůle se této otázce odpovídajícím způsobem věnovat. Vedlo to k současné paradoxní situaci, kdy se z Evropy (většinou zdarma) vyvážejí vysoce hodnotná surová data povětšinou do USA a slouží tam nejen za základ služeb následně dovážených (většinou nikoli zdarma) zpět do Evropy,[24] ale bývají dokonce běžně zneužívána třetími stranami k destruktivním aktivitám cílícím na evropské politické struktury nebo ekonomické zájmy.[25]

Současný vývoj směřující k ekonomickému využití autonomních technologií může pro Evropu dopadnout podobně, pokud mj. nedojde k adekvátnímu řešení shora naznačeného problému soukromoprávní odpovědnosti. Vysoká míra metaforičnosti našeho zákonného práva však v tomto případě nepovede, na rozdíl od jiných podobně nejistých oblastí, ani k vyšší poptávce po učených radách provinčních právníků, ale k tomu, že zde (v ČR či obecně v Evropě) v době, kdy se budou v oblasti autonomní ekonomiky rozdávat karty, tyto učené rady nikdo normální nebude poptávat.

Možnosti řešení odpovědnosti autonomních systémů

Především z politických důvodů nelze očekávat, že by byla aktuální poptávka po typickém zákonném řešení odpovědnosti za škodní následky fungování autonomních technologií vykryta speciálními konstruktivními instituty soukromého práva. Přestože členské státy vesměs uznávají relevanci tohoto regulatorního problému, nenechají si zřejmě kvůli němu rozvrtat své vzájemně nekompatibilní, avšak po staletí budované struktury soukromoprávní odpovědnosti. Tlak nelze v tomto směru očekávat ani od Junckerovy komise, neboť její agenda se obecně vyznačuje legislativním minimalismem.

Současná naše situace se tedy v mnohém podobá stavu na konci 90. let minulého století, kdy podobně složité (a srovnatelně žádoucí) zadání představovala odpovědnost poskytovatelů služeb informační společnosti. I v tomto případě hrozilo (resp. se reálně projevilo), že přetrvávající nejistota ohledně subjektivních a meritorních kritérií spoluodpovědnosti ISP různých typů za protiprávní jednání uživatelů napříč společným trhem se projeví negativně na domácí investiční aktivitě.

Ani v tomto případě nepadala na konci minulého tisíciletí politicky v úvahu varianta zavedení konstruktivního odpovědnostního institutu zakládajícího napříč jednotným trhem odpovědnostní (resp. spoluodpovědnostní) titul pro různé typy ISP. Namísto toho sáhl evropský normotvůrce po řešení vycházejícím z již existující severoamerické judikatury a zavedl pro jednotný trh společné omezení odpovědnosti, specificky provedené pro tři základní typy ISP.[26] Tento model,[27] byť byl již v době svého uvedení zatížen řadou technických nedostatků, přetrval v evropském právu podnes a s odstupem času je možné prohlásit, že byl doposud relativně úspěšný.[28]

Všechny výše diskutované technické faktory ve spojení s aktuální dynamikou autonomního průmyslu a specifickou situa­cí soukromoprávní odpovědnosti v evropském právu vedou k závěru, že adekvátní řešení této otázky může mít za současné situace podobný charakter jako v případě odpovědnosti ISP. Máme tedy důvod předpokládat, že i v případě autonomních systémů může být soukromoprávní, správní, či dokonce trestní odpovědnost řešena jednotným omezením horizontálně specifikovaným dle typu příslušné technologie či služby s tím, že bude i nadále využito konstruktivních institutů pocházejících převážně z národních právních řádů členských států.

Specifické omezení odpovědnosti napříč jednotným trhem může být na evropské úrovni provedeno podobně jako v případě odpovědnosti ISP jednotným legislativním nástrojem stojícím mimo formální strukturu civilního, správního nebo trestního práva. V porovnání se směrnicí o e-commerce (obecně se používá zkratka ECD – e-commerce directive[29]) přitom nemusí jít v tomto případě o harmonizační legislativu. Oproti původnímu očekávání totiž nebyla ECD harmonizována do práva členských států formou implementace do stávající struktury odpovědnostních institutů, ale povětšinou formou zvláštního předpisu, který text ECD s větším či menším úspěchem přebíral.[30] Přímo použitelné nařízení tedy může v tomto směru zafungovat podobně, to však bez potřeby zatěžování národního právotvůrce a riskování technických lapsů, k nimž v některých členských státech (včetně ČR[31]) došlo v procesu harmonizace ECD.

Podobně zaměřená, avšak z pochopitelných důvodů mnohem méně konkrétní, je aktuální úvaha Evropského parlamentu o odpovědnostním modelu pro autonomní systémy.[32] EP se touto problematikou zabývá v porovnání se svými národními či zahraničními protějšky s pozoruhodnou důkladností a vytrvalostí. V aktuální pobídce Komisi[33] označuje EP civilní odpovědnost za jednu z největších výzev autonomních technologií a víceméně očekávaným způsobem deklaruje nutnost chránit proti škodním následkům práva a oprávněné zájmy osob.

Z toho se může jevit, že EP považuje za regulatorní problém spíše absenci odpovědnostních institutů a svoji případnou legislativní aktivitu hodlá zaměřit nejen ke sjednocení, ale dokonce ke zpřísnění stávajících odpovědnostních režimů v členských státech. Z plánované analýzy právních řádů členských států ale zřejmě vyplyne spíše potřeba shora zmíněného jednotného omezení osobní působnosti odpovědnostních titulů, neboť právní řády členských států již konstruktivními nástroji v dostatečném (byť nepříliš jistém) rozsahu disponují.[34]

Politicky citlivá, avšak pragmaticky nepominutelná otázka transparentního a formálně určitého omezení odpovědnosti různých typů provozovatelů autonomních systémů a poskytovatelů souvisejících služeb je však v parlamentních dokumentech rovněž reflektována. Syntéza poznatků týkajících se pravděpodobného budoucího režimu odpovědnosti autonomních systémů totiž obsahuje úvahu o škodních následcích fungování autonomních technologií, které nebude možné de iure pokrýt právními povinnostmi z odpovědnostních titulů. EP tedy přímo předpokládá, že odpovědnost různých subjektů podílejících se na fungování autonomních systémů bude omezena, a v důsledku toho se budou vyskytovat škody, ke kterým nebude generován závazek k jejich náhradě. K pokrytí těchto situací předpokládá EP vytvoření jednotného zajišťovacího či garančního mechanismu (ten je ve zprávě označen jako „kompenzační fond“).

Není příliš pravděpodobné, že by vrcholná evropská instituce s trvalou agendou v oblasti autonomních technologií naivně předpokládala rozvoj jednotného trhu autonomních systémů pouze na základě fungování stávající silně metaforické a vzájemně nekonzistentní národní legislativy týkající se soukromoprávní odpovědnosti. Výsledkem by totiž byl trh, v jehož rámci by se zásadním způsobem odlišovaly podmínky pojištění v různých členských státech, a tím pádem by se musely zásadně lišit i výsledné uživatelské ceny příslušných produktů a služeb.[35]

Namísto toho se spíš jeví, že požadavek EP na společný garanční systém implicitně předpokládá též existenci společného evropského režimu odpovědnosti provozovatelů autonomních systémů a poskytovatelů souvisejících služeb analogicky s ECD. Logicky by pak společný evropský garanční systém mohl řešit kompenzace či satisfakce právě v případech, kdy by byl na základě společné evropské úpravy vyňat příslušný škodlivý následek z dosahu národních odpovědnostních institutů, a tím pádem i z dosahu příslušného (mandatorního)[36] pojištění.

Rozdíl oproti známému režimu spoluodpovědnosti ISP dle ECD (který žádný systém garancí neobsahuje) spočívá v tomto případě v tom, že ECD se obvykle týká pouze spoluodpovědnosti. Pokud tedy příslušný poskytovatel služby informační společnosti spadne do osobní působnosti omezení (tj. pokud se na něj vztahuje vynětí z civilní nebo jiné odpovědnosti ve smyslu ECD), neznamená to, že poškozený subjekt musí nutně zůstat bez náhrady či satisfakce. Nemůže se sice obrátit na poskytovatele příslušné služby, ale stále má možnost hojit se na samotném škůdci.

Možné omezení odpovědnosti za provoz autonomních systémů či poskytování souvisejících služeb tedy ve výsledku povede k tomu, že poškozenému subjektu nezůstane nikdo, koho by mohl pasivně legitimovat ve sporu o náhradu nebo zadostiučinění. Právě tento typ rizika autonomních technologií pro třetí osoby (včetně souvisejícího rizika politického) pokrývá, resp. může pokrývat, hypotetický garanční systém, k jehož vytvoření EP ve své zprávě vyzval.

Práva k datům jako faktor investiční náročnosti

O problematice právního uchopení dat se v poslední době diskutuje především ve vztahu k ochraně osobních údajů, dalšímu užití informací veřejného sektoru nebo různým regulatorním (či spíše deregulatorním) opatřením směřujícím k vytvoření z nepochopitelných důvodů stále neexistujícího jednotného digitálního trhu.[37] Pro autonomní technologie představují data zcela klíčovou oblast, neboť autonomní systém se díky datům orientuje ve svém operačním prostředí a průběžně se vyvíjí. S trochou nadsázky by se dalo říci, že autonomní systémy používají data jako potravu, kterou nezbytně potřebují ke své funkční existenci.[38]

Evropa má v tomto směru oproti jiným částem světa nespornou výhodu spočívající v bezprecedentní úrovni zdejší kultury a značné kulturní diverzitě. Relativně vysoká vyspělost a rozsah různých evropských spotřebitelských a průmyslových trhů rovněž vede k produkci relativně velkého množství dat s vysokým užitným potenciálem. Evropa tak sice nemůže v porovnání s Asií soutěžit v mase nebo dostupnosti dat (k tomu viz dále), ale má jednoznačně navrch, pokud jde o jejich kvalitu a užitnou hodnotu.

Ve využití unikátní evropské datové základny pro potřeby vývoje a nasazení autonomních technologií však v Evropě brání různé právní překážky. Data jsou totiž předmětem celé řady regulatorních režimů, u nichž se přes jejich čistě technickou povahu stále nedaří sjednotit právní úpravy v jednotlivých členských státech. Příkladem může být ochrana některých typů dat autorskými právy nebo právy sui generis k databázím. Přestože je autorskoprávní úprava v jednotlivých členských státech částečně harmonizována a v neharmonizovaných aspektech není politického, ekonomického, sociálního nebo kulturního důvodu ke vzájemným rozdílům, neexistuje doposud nic takového jako jednotný autorskoprávní titul nebo jednotná licenční smlouva[39] Obdobná byla doposud též situace v oblasti ochrany osobních údajů – i zde se totiž obecně harmonizované regulatorní režimy v různých členských státech natolik vzájemně lišily, že bylo prakticky pro každý členský stát nutné vytvářet jiný typ smluvní nebo vrchnostenské dokumentace.[40]

Pro právnickou obec se shora popsaná situace naopak jeví jako výhodná, neboť zájemce o využití dat je nucen k vyšším investicím do právních služeb. Při existenci jednotného regulatorního režimu by postačila jedna sada dokumentů vytvořená profesionálním právním servisem kdekoli v Evropě, zatímco současná situace nutí podnikatele najmout si profesionála z každého dotčeného členského státu. Praxe však ukazuje, že ve skutečnosti zájemci o složitější formy užití evropských dat vyžadující profesionální právní ošetření raději hledají možnosti, jak data vyvézt mimo Evropu a tam je následně zpracovat s daleko menšími obslužnými náklady a rovněž i s nesrovnatelně nižší mírou právního rizika.[41] Evropský profesionální servis v oblasti právní ochrany dat je tedy ve výsledku na stejné lodi jako průmysl autonomních technologií. Pro právníky je přitom situace o to horší, že se na rozdíl od dat nebo inženýrů nemohou jen tak přesunout za oceán.

Adekvátní řešení právních vztahů, jejichž sekundárními objekty jsou data, není ve vztahu k autonomním technologiím žádoucí jen proto, aby mohlo v Evropě existovat v porovnání s Asií nebo Amerikou konkurenční investiční prostředí. Jak bylo naznačeno shora, je adekvátní nastavení regulatorního rámce důležité i k tomu, aby Evropa podobně, jako se to děje v oblasti dalšího užití osobních údajů, nemusela kvůli vývozu dat de facto ustupovat ze svých standardů ochrany informačních práv člověka.[42]

Ideálním a teoreticky bezproblémově odůvodnitelným, avšak vzhledem k současné situaci zcela nerealistickým řešením, by bylo vytvoření jednotné právní úpravy zahrnující různé nezávisle existující restriktivní regulatorní režimy informačních práv. Jednotná a vzájemně obsahově sladěná úprava osobních údajů, informačního soukromí, informací veřejného sektoru, majetkových práv autorských, práv sui generis, práv ke zdravotnické dokumentaci aj. by vedle odstranění funkčně nesmyslných omezení daných geografickými hranicemi přinesla i citelné snížení nákladů na právní compliance. Úspory na transakčních nákladech by logicky byly o to větší, čím složitější je současná právní úprava zpracování příslušných dat.[43]

V podstatě pochopitelná absence politické vůle k titánskému legislativnímu řešení vnitroevropské a strukturální diverzity různých právních režimů ochrany dat každopádně nemusí být fatální překážkou rozvoje autonomního průmyslu. Pragmaticky vzato totiž různé právní složitosti nemají charakter absolutních omezení, ale pouze generují vysoké transakční náklady. V některých odvětvích jsou navíc tyto náklady relativně zanedbatelné, neboť tvoří jen zlomek celkové hodnoty investic do příslušných technologií. Typicky tak u různých prostředků pro autonomní mobilitu nebo u velkých diagnostických přístrojů, kde vývojové náklady šplhají do miliard eur, nepředstavuje pro dotyčného investora překážku, musí-li vynaložit statisíce k zajištění celoevropské právní compliance ve vztahu k různým typům dat.

Problém transakční nákladovosti tedy řešíme primárně u autonomních technologií, které jsou z hlediska investic středně nebo méně náročné. Právě této oblasti však je třeba věnovat zvýšenou pozornost, neboť jde o segment, kde, stručně řečeno, očekáváme nečekané. Předpokládáme totiž, že právě tento segment bude v krátké době generovat velké množství zcela nových technologií a služeb, z nichž se postupně vyvinou skutečné pilíře autonomní ekonomiky podobně, jako se to stalo v 80. letech v případě spotřebitelského trhu ICT nebo na konci 90. let u datové ekonomiky.

Investice do zcela nových forem spotřebitelského nebo průmyslového využití autonomních technologií se budou s největší pravděpodobností vedle nižších investičních objemů vyznačovat i vyšší mírou rizikovosti. Lze tedy ze zkušenosti s jinými technologickými obory očekávat, že oblasti autonomního průmyslu, od nichž si slibujeme největší budoucí růst, přilákají v první fázi především angel nebo venture kapitál (případně budou předmětem veřejné podpory). Za této situace může vysoká nákladnost právního servisu ohledně dat skutečně znamenat pro Evropu fatální problém. Žádný investiční projekt totiž nebude schopen před investory tohoto typu obhájit vysoké náklady na právní compliance generované pouze potencialitou toho, že data potřebná k vývoji nebo fungování příslušné autonomní technologie mohou být předmětem právní úpravy kteréhokoli státu EU nebo EHP.

Datové společnosti

Jedno z možných řešení naznačuje poziční dokument britské vlády k problematice autonomní ekonomiky, když hovoří o datových trustech bez právní subjektivity.[44] Myšlenka datového trustu je postavena na premise shora popsané ekonomické poptávky po jednoduchém a funkčním právním řešení sběru a využití velkého množství dat chráněných různými právními instituty a pocházejících z různých jurisdikcí. Datový trust může v tomto směru představovat jednotnou a typizovatelnou formu, jejímž prostřednictvím může být takového cíle dosaženo i jinak než pokoutným vývozem dat z území EU, jejich utajeným zpracováváním nebo technickou ekvilibristikou vedoucí k předstírání, že např. osobní údaje ve skutečnosti nejsou osobní údaje.[45]

V českém právním prostředí by model datového trustu spadal pod soukromoprávní společnost bez právní subjektivity, dříve označovanou jako sdružení.[46] Primárním objektem (účelem) komplexního právního vztahu vytvořeného na základě společnosti by bylo využití dat příslušnou autonomní technologií. Sekundární objekt by představovala samotná data, přičemž jejich rozmanitost by se projevila pouze v počáteční složitosti smlouvy, na jejímž základě by příslušná společnost vznikla. Subjektem tohoto komplexního právního vztahu by byl samozřejmě na jedné straně ten, kdo by chtěl předmětná data využívat, tj. např. technologická společnost vyvíjející nebo provozující určitou technologii. Současně by se ale společnosti mohl účastnit též investor, ať už by šlo o fond typu angel či venture, banku nebo třeba orgán veřejné moci poskytující finance formou zvýhodněné půjčky nebo veřejné podpory.

Společnosti by se účastnil též subjekt (nebo spíš subjekty) disponující právy k datům. Mohlo by dokonce jít o jednotlivce, kteří by v rámci smlouvy dávali společnosti možnost jejich data využívat, takže společnost by ve výsledku mohla mít třeba i tisíce nebo miliony členů. V jiných případech by se společnosti mohl účastnit subjekt, který by nositele práv pouze v nějaké formě zastoupil, tj. např. kolektivní správce, pokud by šlo o data chráněná majetkovými autorskými právy. Tam, kde právy k týmž datům disponuje více subjektů naráz, by takové společnosti mohli být účastni všichni – u dat užívaných pro potřeby biomedicínské autonomní technologie by to tedy mohl být příkladně pacient i zdravotnické zařízení pořizující jeho zdravotnickou dokumentaci.

Lze samozřejmě namítnout, že by takové řešení vyžadovalo v praxi stejně složitou nebo možná ještě složitější strukturu právní compliance, jako kdyby investor uzavíral individuální transferové dohody s jednotlivými subjekty disponujícími právy k datům. Pokud by totiž do společnosti vstupovala data chráněná právem jiného členského státu, bylo by nutné ve vztahu k tomuto právnímu řádu řešit i příslušný transfer subjektivních práv.

První výhodu oproti standardní transferové kontraktaci a compliance by měla společnost v tom, že veškerý transfer práv (převod, licence, souhlas aj.) by probíhal na základě jednoho právního jednání a měl by kontinuální povahu, tj. trval by současně se členstvím ve společnosti. Nebylo by tedy v případě pochybností o povaze práv nutné spekulovat o jednotlivých subjektivních informačních právech zvlášť, ale využitelnost dat by bylo možné posuzovat en bloc ve vztahu k účasti nebo neúčasti na společnosti.

Druhou výhodou řešení formou společnosti bez právní subjektivity by byla právní identita předmětných dat navenek. Data tvořící prostřednictvím různých subjektivních práv materiální substrát společnosti by tak mohla být de iure posuzována jako jeden kompaktní celek a společnost by s nimi mohla i disponovat navenek. Zatímco např. transatlantická výměna dat v biomedicínském výzkumu představuje dnes z právního hlediska skutečný oříšek, mohla by v tomto směru společnost kontrahovat daleko jednodušeji. Datový útvar bez právní subjektivity by navíc byl dostatečně flexibilní i pro případ, že dojde ke změně právní úpravy (evropské nebo národní) nebo vyjde později najevo nepředpokládaná potřeba využití dat.

Smluvní konstrukce společnosti (jakkoli ve své podstatě sama o sobě složitá) by totiž přinesla stejný praktický efekt jako jednotná evropská úprava, tedy by de iure vyzdvihla data z různých regulatorních omezení daných právními řády členských států a umožnila s nimi nakládat bez ohledu na jejich původ nebo bydliště jejich původce jako s kompaktním celkem (to však bez toho, aby byla tato data, jak je dnes běžné, fyzicky nebo právně přesunuta pod jinou než evropskou jurisdikci). Společná právní identita dat by tedy ve výsledku ani při dosažení vysoké ekonomické a technické efektivity nevedla k omezení práv jednotlivých oprávněných osob (subjektů osobních údajů, vykonavatelů majetkových práv autorských apod.).

Třetí výhodou řešení založeného na kompaktním právním útvaru bez právní subjektivity by byla shora konstatovaná možnost jeho typizace. Zatímco totiž existuje nepředstavitelně mnoho způsobů, kterými lze data zužitkovat pro potřeby autonomních technologií, je i přes složitost a diverzitu národních právních úprav jen konečné množství právem uznaných typů dat a s nimi souvisejících práv. Lze tedy formou smluvního vzoru vytvořit několik typových modelů datových společností a k nim přiřadit odpovídající transferová ujednání v souladu s právy jednotlivých členských států EU nebo EHP. Ve výsledku tedy samozřejmě půjde o desítky nebo stovky dokumentů lišících se v míře vzájemných odlišností jednotlivých právních řádů členských států – tentýž model ale bude opakovaně použitelný jako smluvní vzor pro nejrůznější případy, jejichž rozmanitost nedokážeme dnes ani předpovědět.

Z výše uvedeného plyne, že náklady na vytvoření typické datové společnosti budou vyšší, než jsou náklady na zajištění transferu a právní compliance u typického projektu pracujícího s daty z více evropských jurisdikcí. Zatímco je ale každé individuální compliance řešení jen velmi omezeně použitelné v jiných případech, hodí se model datového trustu k obecnému použití bez ohledu na to, jaká data, odkud nebo za jakým účelem budou zpracovávána.

Závěrečné poznámky

Tento text byl věnován dvěma okruhům právních problémů souvisejících s vývojem a nasazením autonomních technologií – otázce odpovědnosti a právním souvislostem autonomního užití velkých objemů různých typů dat. V obou případech představují autonomní technologie originální regulatorní výzvu, jejíž problém však nespočívá v tom, že bychom zcela postrádali použitelnou právní úpravu.

Podobně, jako právo dopadá na jiné škodní následky, mohou se škody a jiné újmy způsobené autonomními systémy docela dobře dostat do věcné působnosti stávajících pravidel soukromého, správního nebo trestního práva. Stejně tak máme v současné době dostatek ochranných (povětšinou restriktivních) právních institutů dopadajících na shromažďování a zpracování různých typů dat. V obou těchto oblastech, které lze pro budoucnost autonomních technologií považovat za klíčové, však z různých důvodů trpí právo fatálním deficitem praktické užitečnosti.

V otázce odpovědnosti jsme shora dospěli k závěru, že je třeba ve vztahu k autonomním systémům dosáhnout vyšší míry a priori jistoty (především co do přičitatelnosti škodních následků), která se v důsledku projeví ve vyšší přesnosti modelace pojistných situací. Transparentní a napříč společným trhem předvídatelné přičtení škodních následků konkrétním subjektům tedy umožní efektivnější kalkulaci právních a finančních rizik a v porovnání se současným stavem totální nejistoty též jejich nepoměrně snadnější ošetření příslušnými mechanismy compliance. K tomu by mohl přistoupit analogicky s oborem služeb informační společnosti ještě mechanismus en bloc omezení odpovědnosti vybraných druhů subjektů podílejících se na provozu autonomních technologií doplněný o garanční systém předvídaný Evropským parlamentem.

Shora naznačené řešení samozřejmě není jediným možným. Pokud však problém aktuální nejistoty ohledně odpovědnosti za škodní následky provozu autonomních systémů nebude v Evropě dostatečně řešen, dojde k podobné situaci jako se službami informační společnosti a specificky se službami datové ekonomiky, tj. Evropě ujede vlak a stane se závislou na produktech dodávaných zvenčí (v tomto případě to bude zřejmě Severní Amerika nebo Asie).

Ve vztahu k relativně složitým právním souvislostem sběru a zpracování různých typů dat jsme konstatovali v zásadě dvě možnosti řešení. První, pragmaticky nereálné, je sjednocení hmotného práva zakládajícího různé druhy informačních restrikcí. Druhou možností je kreativní užití typických nástrojů soukromého práva, které ve výsledku umožní přiblížit de iure existenci datových souborů složených z různých druhů různě chráněných dat realitě jejich technického použití, tj. pracovat s těmito daty jako s kompaktním celkem. Namísto legislativy by v tomto případě tedy stačila z pohledu veřejné moci podpora tvorby (nebo dokonce přímé vytváření) opakovaně použitelných soukromoprávních řešení formulářového typu.

doc. JUDr. Radim Polčák, Ph.D., je vedoucím Ústavu práva a technologií PF MU v Brně, rozhodcem tribunálu pro doménová jména .eu a .cz a zakládajícím členem European Academy of Law and ICT, European Law Institute.