Neorodina roku 2017
Mezitím umělá inteligence tiše a neslyšně překročila prahy našich domovů a my se teď divíme, kdo že to s námi sdílí společnou domácnost.
Japonské dívky dávají přednost virtuálním milencům před muži z masa a kostí, řada mých českých spoluobčanů vystupuje na Facebooku pod jinou identitou a sama sociální síť mi aktivně nabízí reklamy a články právě toho zboží, po kterém právě nejvíce toužím, znajíc mou velikost, věk, váhu, krevní skupinu i chutě s ní spojené. Auto, které jsem si před nedávnem koupila, samo strhne volant doprostřed vozovky, jakmile se jen trochu zasním a pravá pneumatika ucítí bílé značení na kraji cest, jiné vozidlo se bez připoutání nerozjede, byvše chytřejší než ten nedokonalý tvor, jenž ho chce ovládat. Informatici už jsou takřka na konci cesty, podobně jako spisovatelé nebo filmaři. A tak dříve či později přijdou ke slovu i v tomto oboru právníci.
Samořídící auto
Ta zpráva se objevila někdy v říjnu loňského roku a k mému údivu hned zapadla. Auto vybavené tempomatem udržujícím stále stejně vysokou rychlost nereagovalo na pokus o jeho vypnutí. Řidič se telefonem spojil s operátorem a několik minut se pokoušel jeho radami snížit rychlost, jež se ustálila na sto šedesáti kilometrech. Pak auto v plné rychlosti nabouralo a pasažér v něm zemřel. I kdyby ta zpráva nebyla pravdivá, jednou se něco podobného stane. Pomiňme nyní jiné právní souvislosti, například žalobu rodiny pozůstalé po řidiči o náhradu škody, zlý úmysl jiné osoby, sabotáž nebo technickou poruchu. Takové věci se vždycky budou stávat a ani technická dokonalost jednadvacátého století jim nikdy docela nezabrání. Mě ovšem zajímá jiný právní pohled – jaký algoritmus bude třeba do auta zabudovat a jak vyřešit konflikt loajality, tedy pochopitelné dilema umělé inteligence. Informatik nebude ochoten rozhodovat sám, proto se obrátí na svého nadřízeného. I manažer softwarové firmy odmítne, a problém tak skončí na stolech nás právníků. Programátoři i manažeři totiž budou požadovat seznam priorit a preferencí, katalog zákonitostí či kritérií, které je zbaví budoucí odpovědnosti.
Asimovovy zákony robotiky
O robotických zákonech přemýšlel americký spisovatel a biochemik Isaac Asimov (1920-1992), který v roce 1941 formuloval tři základní zákony robotiky. Znějí takto:
- Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
- Robot musí uposlechnout příkazů člověka, s výjimkou případů, kdy jsou příkazy v rozporu s prvním zákonem.
- Robot musí chránit sám sebe před poškozením, s výjimkou případů, kdy je ochrana v rozporu s prvním nebo druhým zákonem.
Existují i další zákony, připisované tu Asimovovi, jindy jiným autorům. Například že robot nesmí ublížit lidstvu, že musí vědět, že je robotem, popř. že se musí vždy prokazovat jako robot. Nechme nyní stranou krásnou literaturu a představme si problémy, které mohou při aplikaci těchto zákonů reálně vzniknout. Prvním problémem je právě konflikt loajality.
Například v domě vypukne požár, v jednom křídle spí rodiče a v opačném děti. Robot vyhodnotí rychlost šíření a ví, že stihne zachránit členy rodiny jen z jednoho křídla. Pro kterou skupinu se má rozhodnout? Bude směrodatný počet zachráněných? Jejich věk? Pracovní pozice? Perspektiva? Zdravotní stav? V závěsu přicházejí i další otázky: škodí japonským dívkám víc milenci skuteční nebo virtuální? Jaký je opak slova „ublížit“, tedy co stanovíme jako ideál, cíl nebo vzor? Před stovkou let jím v našich zeměpisných šířkách byl příkaz „vdát se a mít děti“. Vzdělaná Evropa dnes vymírá a prastarý vzorec se možná opět vrátí do našich domovů a rodin. Není pak virtuální milenec větším škůdcem než sukničkář?
Podobný problém nastane s druhým zákonem. Právníkovi opět probleskávají hlavou nejrůznější záludnosti: Musí robot uposlechnout každý příkaz člověka? Co příkaz hloupý, nepromyšlený, ba dokonce zvrácený? Umělá inteligence bude patrně mnohem chytřejší než člověk, bude schopna ve zlomku vteřiny vzít v úvahu a vyhodnotit řadu okolností a informací, tedy učinit řadu úvah, které by průměrný člověk (přesně ten, o němž hovoří občanský zákoník) nebyl schopen. Má tedy robot i pak uposlechnout? Už dnes přece existují právní normy (například zákon o ochraně spotřebitele), který chrání člověka před neuváženými kroky, které učiní on sám, a předem je prohlašuje za neplatné. Nebude podobnými omezeními trpět i robot? Už slyším, jak takový „domácí pomocník“ na můj pokyn: „Objednej ten drahý automaticky vysavač, co právě inzerují v televizi!“ odpoví: „Takový finanční výdaj je nad tvé možnosti, proto mi zákon přikazuje jej ignorovat.“ Co budeme my lidé dělat pak? Komu budeme spílat a vůči komu budeme uplatňovat škodu, jež nám vznikne?
Nedosti na tom. Napadá mě totiž ještě další potíž. Rodič přikáže domácímu robotu, aby dospívající děti nepouštěl z bytu. Ale pokyn teenagera: „Pusť mě ven!“ je přece také příkazem člověka. To nemusí být žádný problém, pomyslí si čtenář byv přesvědčen, že sám dokáže právníkovi dobře poradit: každý vlastník robota si bude přát, aby robot primárně poslouchal svého majitele.
Právník poslouchá, a přitom se tiše culí pod vousy. Ví totiž, že má o práci postaráno, neboť další robotické zákony budou pamatovat na změnu vlastnictví, insolvenci, nabytí věci v dobré víře, přeměnu jednoho robota v jiného a řadu dalších formálních situací, na jejichž konci stojí opět první Asimovův robotický zákon, který stejně zapoví či znemožní, aby jeden člověk vyslal robota ublížit jinému člověku.
Jak robot pozná, kdo je jiný člověk
Stanice HBO v těchto dnech vysílá sci-fi/westernový seriál West World, v němž zbohatlíci navštěvují zábavní park, umožňující zabíjení a jiné formy násilí vůči robotům, kteří však vypadají jako lidé. Většina robotů svou pravou identitu a původ nezná, tvůrci tedy zjevně některé z literárních zákonů robotiky úmyslně porušili. I kdybychom je však my právníci do budoucích robotických zákonů zanesli, zaděláme si na další problém: z čeho má robot poznat, že člověk před ním je/není robotem? Podle zjevu? Podle řeči? Podle chování? Inteligence?
My právníci jsme navíc vybaveni připraveností zkoumat každé jednotlivé slovo, a pokud se to nám a našim klientům jeví jako nadějné/výhodné/možné/realizovatelné, obracíme každé slovo naruby a ověřujeme, kde je jeho hranice a jaké významy může mít. Nejvyšší soud i soud Ústavní by o naší kreativitě mohl vyprávět, koneckonců k výkladům dopadu jednotlivých slov je v obou případech i sám povolán. A tak si dovedu představit úvahu na téma: „ublížit člověku“. Pokud se totiž můj domácí robot zamyslí nad mou váhou, hladinou cholesterolu nebo alkoholu po probděné silvestrovské noci, možná mi odmítne zpřístupnit obsah ledničky, marcipánový dort vyhodí do drtiče odpadků, nabídne mi mléčný nápoj se sníženým obsahem tuku a pak mě vystrčí na mráz, abych si šla namísto lenošení u televize radši zaběhat. Ubližujeme si přece každým dnem – kouřením, stresem, nezdravým jídlem, nebezpečnými myšlenkami či závistí. A tak budou muset opět právníci přiskočit a definovat míru škodlivosti, resp. hranici, pod kterou ještě robot nemusí zasahovat.
Robot, který ví, kým je
S mnohými známými, s nimiž jsem moje dnešní téma v posledních dnech konzultovala, jako nejpalčivější problém vidí vzpouru strojů – odvěký to strašák, tak často popisovaný v literatuře či zobrazovaný ve filmech, které my dospělí tak rádi sledujeme. Stačí si vzpomenout na sérii s Terminátorem. Naopak informatikové se ničeho podobného neobávají. Pomiňme nyní, zda důvodem je jejich nedostatek představivosti anebo reálná nemožnost. Koneckonců i v onom již zmíněném seriálu West World nakonec roboti odmítnout podřizovat se rolím, které jim předepsali mnohem nedokonalejší lidé, odmítnou poslušnost a odkráčejí za svým IT štěstím. Možná vlastní vědomí umělé inteligence patří skutečně jen do arzenálu literárních autorů, podobně jako roztomilí mimozemšťané a láska, která vše přetrvá.
Třeba je naopak slepou cestou ono praktické omezení, spočívající v robotických zákonech. Buď robot poslechne každého, anebo nikoho. Může tedy každému sloužit, podobně jako lednička nebo kávovar, anebo se v rukou vyšinutého příkazce změní ve zbraň nebo v nástroj nepravostí. Pak budou mít konkurenční výhodu naši potomci – na rozdíl od nás právníků rozumí už dnes IT otázkám mnohem více, jako kdyby se narodili s genem pro ovládání technických prostředků a se zástrčkou pod jazykem. Já mám totiž problém z pěti stejných šedivých ovladačů, které spočívají pod televizí, vybrat ten správný, jímž se ovládá HBO. Na rozdíl od mého syna, který to dokáže i ze zavřenýma očima. Pokud na něj budu pošlu domácího robota, aby ho vyhnal z postele, přinutil uklidit spoušť, která je jeho životním prostorem, vyvětral a sešel včas na novoroční snídani, výsledek nebude odpovídat mému, ale spíš jeho zadání. A o dvě hodiny později je nejspíš oba najdu připojené k počítači, na němž jako jeden tým paří nejrozšířenější on-line hru Legue of Legends.
Psáno pro Rodinné listy
Daniela Kovářová
Kdo rozděluje společnost a vyvolává nenávist
„Zlá a krutá,“ napsala o mně senátorka Miroslava Němcová na sociální sítě. Odhlédněme od toho, že paní kolegyně nepochopila mou věcnou výhradu k porušení Jednacího řádu Senátu, což by si zasloužilo samostatný komentář.
Daniela Kovářová
Digitální demence mladé generace
Zničí nás třetí světová válka, nelegální migrace, neochota mít děti nebo pohodlnost konzumní společnosti? Možná žádný z těch obvyklých strachů a děsivých prognóz.
Daniela Kovářová
Existuje nezávislá televize?
Přiznám se vám: nekoukám se na televizi a neposlouchám rozhlas. Nekoukám na žádné programy a stanice, což činím od jara roku 2020, kdy jsem vypnula covidové šílenství kvůli své duševní rovnováze, a už jsem se ke sledování televize
Daniela Kovářová
Soukromý a veřejný statek
V životě řešíme každý den, každou hodinu, každou minutu různá dilemata. Říká se tomu rozhodování. Rozhodování je vždy volbou a jediným kritériem při této volbě z různých možností, které připadají v úvahu, je míra výhodnosti.
Daniela Kovářová
Na důchody musíme jinak
Lidé jsou klamáni. Léta se jim tvrdí, že platí nějaké sociální pojištění do nějakého důchodového fondu. Není to pravda.
Další články autora |
Studentky rozrušila přednáška psycholožky, tři dívky skončily v nemocnici
Na kutnohorské střední škole zasahovali záchranáři kvůli skupině rozrušených studentek. Dívky...
Podvod století za 2,4 miliardy. Ortinskému hrozí osm let a peněžitý trest 25 milionů
Luxusní auta, zlaté cihly, diamanty a drahé nemovitosti. To vše si kupoval osmadvacetiletý Jakub...
Zemřel bývalý místopředseda ODS Miroslav Macek. Bylo mu 79 let
Ve věku 79 let zemřel bývalý místopředseda ODS a federální vlády Miroslav Macek, bylo mu 79 let. O...
To nemyslíte vážně! Soudce ostře zpražil bývalého vrchního žalobce
Emotivní závěr měl úterní jednací den v kauze údajného „podvodu století“, v němž měly přijít tisíce...
Moskva se chlubí kořistí z Ukrajiny: Abramsy, Leopardy i českým BVP
V Moskvě ve středu začala výstava západní vojenské techniky, kterou používá ukrajinská armáda a...
Sluší se, aby zaměstnanec věděl, proč je propouštěn, řekl Juchelka
Poslanci se přeli o změnu zákoníku práce. Opozici se ho nepodařilo vrátit vládě k přepracování....
Nevítají přistěhovalce, jsou xenofobní, řekl Biden o Japonsku a Indii
Americký prezident Joe Biden označil Japonsko a Indii za „xenofobní“ sttáy, které nevítají...
„Můžete nás grilovat.“ Koalice SPOLU zahájila kampaň u piva a klobás
„Ááá, náčelník přijíždí,“ zahlásil europoslanec ODS Alexandr Vondra. K poděbradské kolonádě, kterou...
Na Plzeňsku hořela hala sklárny, oheň zasáhl třetinu střechy
V Heřmanově Huti na severním Plzeňsku hořelo v areálu sklárny. Podle informací iDNES.cz od hasičů,...
Pronájem bytu 1+1, 42 m2 - Pardubice - Cihelna
U Josefa, Pardubice - Cihelna
10 990 Kč/měsíc
- Počet článků 191
- Celková karma 28,65
- Průměrná čtenost 2291x