Rovnost v útrobách strojů

Příkladem Golema utrženého z řetězu představuje rezidenční parkování v Brně. Vyvolená skupina získala parkovací privilegium a celé  „hlídání pořádku“ probíhá skrytě, v elektronických obvodech. Nikdo neví, jak je s údaji zacházeno.

Nekritická víra v „elektronický“ pokrok je založena na vědomém potlačení faktu, že o funkčnosti každé technologie rozhoduje člověk. Podoba algoritmu, duše stroje, záleží jenom na jeho nedokonalých schopnostech nebo někdy i zlovůli. (Umělá inteligence je všude. Potřebujeme přísahu pro data, Gina Neff, profesorka z Oxfordu). Zde autorka rozšiřuje problém na skutečnost, že data nemusí odrážet složitost světa. Já dodávám, že data nikdy nemohou postihnout skutečný svět a bude to chtít velké přesvědčování (a několik průšvihů, tak jako byl pokus o zavedení socialismu), než si to lidi uvědomí. Je to stejně nesmyslné jako přesvědčení socialistických plánovačů, že dokáží řídit hospodářství, o čemž psal Hayek již na začátku 20. století. 

Výzkumnice Joy Buolamwini z Massachusettského technologického institutu testovala software používaný na rozpoznávání tváří. Zjistila, že její obličej Afroameričanky je schopen rozlišit, pouze když má bílou masku. Kolik dalších chyb tyto programy obsahují? Přitom sledovací systémy se šíří Spojenými státy. Havárie samořiditelných automobilů hrozí daleko většími škodami než z mýlky v identifikaci zločince. Proto jejich nasazení nekomplikuje až tak technická stránka věci, ale etické a právní souvislosti jejich pohybu ve veřejném prostoru. Tedy algoritmy. Hrozivý je plán na sběr dat z automobilů v Unii pod záminkou sledování jejich spotřeby. Dovolím si tvrdit, že nasazení autonomních aut je vyloučené právě z etických důvodů, pokud ovšem tento problém nebude překonán tím, že se zřekneme části svého lidství. 

Čína celkem nepokrytě buduje elektronickou verzi Velkého bratra. Pomocí sledovacích systémů, rozpoznávání obličejů a udělování bonusů/malusů za ne/řádné chování se zde lidé dostávají pod totální dohled státu. I když pomaleji a snad ne záměrně, i my jdeme čínskou cestou. Pokud se nechceme zříci svobody, je třeba algoritmy veřejných elektronických systémů podřídit občanské kontrole. Dnes se v této oblasti hraje bez pravidel, jako kdyby nás soudili tajní soudci podle tajných zákonů.

Příkladem Golema utrženého z řetězu představuje rezidenční parkování v Brně. Vyvolená skupina zde získala parkovací privilegium a „hlídání pořádku“ probíhá skrytě, v elektronických obvodech. Kromě stabilního snímání při vjezdu, prominentní zónu objíždí automobil s namontovanými kamerami, které zaznamenávají registrační značky. Ty jsou porovnávány s databází rezidentů, což umožňuje automatické generování pokut. Potud reklamní sdělení magistrátu.

Pomiňme, že rezidenční parkování je založeno na diskriminaci a daňových únicích. „Only for white“ se změnilo na „Pouze pro Brňáky“. Vyloučení na základě rasy nahradila segregace podle formálně zapsaného bydliště. Že se věc nedostala ještě k Ústavnímu soudu nedělá moc dobrou vizitku schopnostem pražských a brněnských právníků. Kromě toho, rezidenti nedaní nepeněžitý benefit v podobě snadnějšího zaparkování.

To hlavní ale je, že parkovací systém nepodléhá veřejné kontrole. Kdo zaručí, že „výsada“ nevznikla v databázi na základě kamarádství či úplatku? Vyhrazené parkování ve středu města totiž stojí 40.000 korun za rok, takže nejde o nějaké drobné. Zvýšení společenského statusu, že já jsem něco více než „póvl“, který nemůže vjíždět do pěší zóny nebo chrastí korunami u parkovacích automatů, tak to je k nezaplacení.

Dříve byly automobily s oprávněním ke vjezdu do pěší zóny opatřeny červenou kartičkou. Podobnost s rudou komunistickou knížkou, jejichž držitelé měli také více práv než obyčejný občan, je čistě náhodná. Na ní jste se mohli alespoň dočíst, že majiteli Range Roveru za 2,5 milionu korun byl vjezd udělen za účelem zásobování bufetu nebo že kabriolet se dvěma sedadly obsluhuje květinářství. Proto se také o středu Brna nedá hovořit jako o pěší zóně. Magistrát odmítl zveřejnit jejich seznam ve vazbě registrační značka – provozovna. Dnes nejde zjistit nic. Pochybným tedy zůstává, jak se informace do systému dostaly, jak se zpracovávají, zda se neoprávněný vjezd v útrobách stroje opravdu mění v přestupek, jestli nejsou některé registrační značky nebo typy vozidel vyloučeny ze sledování, potažmo i z udělování pokut.  Musíme se spolehnout na víru, že krásné nové stroje fungují podle slibů politiků.  Ale tyto sliby mají cenu chcíplé kočky. Proto je právem občanů politiky volat k odpovědnosti.  

Filozof Stanislav Komárek si nedávno posteskl nad rozmachem umělé inteligence (Artificial Intelligence, AI). Uvedl, že s Čingischánem byla větší šance něco vyjednat, než s umělou inteligencí. Představme si svět, kde nebude proti vám stát slečna za přepážkou, dokonce ani telefonista na druhém konci "drátu". I tito lidé mají  své mantinely, pracovní knihy, postupy, které je omezují v jejich jednání. Existuje ale možnost, naděje, že dotyčné přesvědčíte, uprosíte, dojmete..... Jenže ve světě ovládaném AI nebude naděje existovat, stane se nelidským. Nebo snad někdo předpokládá, že tvůrci do daného systému AI zapracují vyhodnocení lidského pláče a zoufalství? Možná v ní bude modul, který na vás zavolá zřízence v bílých pláštích. Nedávno se vzbouřili kurýři kurýrní služby Wolt, a to kvůli snížení odměn za vyřízení objednávky. Firma reagovala oznámením, že zvýšila minimální odměnu za objednávku o 20 procent. Odpovědí kurýrů, a to je klíčová věta, bylo: "Zvýšení minimálních honorářů nic neznamená, protože nemáme žádnou možnost, jak zjistit, jestli k němu skutečně došlo, nebo ne" (Vedení Woltu navýšilo odměny, kurýrům to ale nestačí, Tomáš Zítko, HN 9.2.2023).  Takže jde další vlaštovku světa, kde o vašem osudu se rozhoduje  v útrobách stroje, ale vy nevíte jak. 

Stabilita demokracie závisí na pocitu lidí, že si jsou před zákony rovni, se všemi je zacházeno stejně a pravidla jsou předvídatelná, lidským poznáním poznatelná. A kde máme jistotu, že stroj s námi zachází stejně? Tak jak se před námi otevírají nové možnosti umělé inteligence, ve svobodné společnosti se vrací starý problém veřejné kontroly. Stát musí občanům nabídnout prostředky k výkonu dohledu (zde minimálně označení automobilů rezidentů, abonentů) a pomocí dozorového orgánu autorizovat útroby programů, resp. jejich algoritmy. Jinak vítejme v Číně.

(základní text vyšel v MF Dnes 16.7.2019)