DPP chystá špehování lidí v metru technologií rozpoznání obličeje

V tragikomické hře, ve které se nacházíme, kdy se prohlubuje deficit státního rozpočtu, si Dopravní podnik hl. m. Prahy chce hrát na lovce teroristů instalací orwellovského špehovacího systému se systémem rozpoznání obličeje i "nestandardního chování cestujícího".

"Naším cílem je rovněž zavést zde softwary na rozpoznání obličeje, aby bylo možné dohledat jednotlivé lidi. Když bude potřeba dohledat nějakého člověka, každý jedinec bude mít unikátní kód, který se bude dát dohledat: kudy procházel, kdy vstoupil, s kým se bavil," uvedl Špringl v rozhovoru pro server Aktuálně.

(kráceno)

Systém ohlásí vaše "divné chování"

Špringl již po podpisu smlouvy uvedl, že podobný systém je dlouhodobě nasazen na stockholmském letišti či "v nápravných zařízeních ve Švédsku a Austrálii".

V již zmiňovaném rozhovoru přiblížil i další funkce, které by mohl systém umět. "Až bude systém hotov, automaticky dispečerovi nahlásí divné chování. Dá se totiž naprogramovat, jak se standardní cestující chová," konstatoval Špringl, kterého takováto kontrola neděsí a argumentuje například snadným vyhledáním ztracených dětí.

Smlouva o vybudování systému byla podepsána loni v létě, přičemž projekt, jehož části podléhají podle DPP utajení, by měl být hotov do čtyř let.

http://www.novinky.cz/domaci/231372-dopravni-podnik-chce-monitorovat-cestujici-v-metru-prozradi-je-oblicej-i-chovani.html

"1984" - Instruktážní kniha pro politiky a sféru vysokého byznysu?

Pokud jste se s románem "1984" od George Orwella nesetkali - jde o vysoce depresivní dystopickou vizi budoucnosti (román je již desítky let starý, ale stále aktuální), kde špehování obyvatel probíhá přesně takto. Na "nestandardní chování cestujícího" jsou v románu i některá konkrétní slova, a tím jsou "crimethink" (zločinné myšlení), "ideozločin" (obecné nestandardní chování či názory) a konkrétně pro výraz tváře je tam slovo "facecrime" (spojením slov "face" = obličej + "crime" = zločin).

Úryvek z knihy "1984" - George Orwell:

„Bylo strašně nebezpečné nechat své myšlenky bloudit, když jste byli na nějakém veřejném místě nebo v dosahu obrazovky. Sebemenší věc vás mohla prozradit. Nervózní tik, nevědomý úzkostlivý pohled, zvyk mumlání si – cokoliv, co neslo známku abnormálnosti, nebo že máte co skrývat. V každém případě mít ve tváři nevhodný výraz… bylo samo o sobě zločinem. V newspeaku pro to dokonce existovalo i slovo: facecrime…“

V praxi v této fiktivní zemi Oceánie románu 1984 je nebezpečné se i divně tvářit. V naší realitě demokratického 21. století  je rovněž na řadě přibývajících míst nebezpečné se divně tvářit, protože dle vyjádření tvůrců a promotérů těchto našich skutečných špehovacích zařízení mají rozpoznávat dle výrazu (mimiky) obličeje a těla pravděpodobnost, zda je dotyčný terorista. Čili román 1984 se v podstatě stal již ze značné části skutečností. Skoro jakoby někteří politici spolu s různými "bezpečnostními experty" brali orwellův román jako instruktážní knihu či jako návod.

Ostatně samotná populární soutěž Velký bratr je název vůdce jediné politické strany v tomto románu. Její název je "Strana" a vůdce je nazýván "Velký bratr". Po celém městě jsou rozesety plakáty s obličejem Velkého bratra a pod ním nápis "Velký bratr tě sleduje".

V naší realitě zábavní průmysl přišel s nápadem koncept být špehován otočit v marketingové lákadlo být cool tím, že se za peníze nechám špehovat celým národem v televizní reality show. A tak se postupně spolu s jinými změnami, OpenCard, kamerami ve městě, stává koncept být neustále pod dozorem kamer psychologicky přijatelný. Někteří namítají, že stejný systém špehování cestujících již funguje v Londýně po ulicích, v metru, na letišti i v některých nápravných vězeňských zařízeních. Je pravdou, že právě Velká Británie a Londýn je v aplikaci těchto technologií celosvětově v čele. Mimochodem shodou okolností je právě Londýn dějištěm románu 1984.

Stejně tak kamery v současném Londýně obsahují mikrofony i reproduktor, kterým může instruovat občana, pokud je zpozorován chovající se "anti-sociálně". Opět totožné jako v románu 1984 již realitou.

Více o filmu 1984 a kompletní filmovou adaptaci opatřenou českými titulky naleznete zde.

Rostoucí paralely neviditelného útlaku

Kamery orwellovského románu jsou ve formě obousměrných televizních obrazovek, které jsou schopny vysílat obraz i zaznamenávat zvuk a obraz před obrazovkou. A jsou povinně instalovány nejen po městě ale i ve všech domácnostech, a tedy není před nimi prakticky úniku. Winston, hrdina románu, ukrývá své psací potřeby (tužku a blok, které zločinně koupil v jistém starožitnictví) za uvolněnou cihlou ve stěně, která byla, jak si uvědomil, mimo zorný úhel jeho obrazovky v obývacím pokoji. Psací potřeby byly zakázány. Nepsaným zákonem. Nebylo to přímo nelegální, ale nešlo o standardní chování, a jakákoliv deviace či divný (nejistý nebo zvláštně zamyšlený) výraz ve tváři byl považován za ortel smrti - známku "crimethinku" - zločinného myšlení. Za to následoval trest smrti. Dotyčný ale mohl být dlouhou dobu pozorován, než byl zatčen. Někteří tak žili i celé roky ve strachu, že jejich osud je již vlastně zpečetěn kvůli nějaké chvilkové nepozornosti v minulosti, kdy se divně zatvářili.

Princip útlaku z kamer v Oceánii George Orwella spočívá v možnosti, že vás zrovna v daný okamžik může nějaká osoba vzdáleně pozorovat. Nebo také nemusí. Nicméně psychologický vliv je v knize popsán jako forma autocenzury, kdy člověk žije s pocitem (strachem), že je pozorován prakticky neustále, což vedlo k autokonformitě. Naše moderní 21. století dokonce umožňuje (viz. například plánovaný systém pro pražské metro) chování osob snímaných kamerou analyzovat pomocí počítačové umělé inteligence na vzory "antisociálního chování" resp. "nestandardní chování cestujícího", čímž odpadá potřeba obsluhy kamer lidmi, a vzniká možnost sledovat opravdu každého nepřetržitě.

Argumenty "Kdo má čisté svědomí, nemusí se ničeho bát" opomíjí komplexnost takového druhu zásahu do soukromí.

I systém instalovaný v pražském metru má analyzovat mimické (či dle stylu chůze) známky nervozity apod. Uvědomují si protiterorističtí soudruzi, že nervozita, stres či různé psychické choroby jako je sociofóbie, klaustrofóbie je poměrně běžné nestandardní chování? Zřejmě ne nebo je jim to jedno. Ostatně již nasazené systémy jinde ve světě dle jejich vlastních testů vykazují vysokou chybovost. Prostě myslet si, že pomocí známek nervozity odhalíme, že dotyčný "něco (nebezpečného) skrývá", je i nedomyšlené. Hlavně ale jak a kdo bude definovat standardní či nestandardní chování? Lze vůbec definovat?

Tyto schopnosti počítačové analýzy lidského chování budou zřejmě rok od roku schopnější. Ostatně se během této generace očekává, že výkon počítače bude již schopný kompletně simulovat lidský mozek. Technologie mohou být užitečné anebo nástrojem našeho zotročení. Je potřeba to hlídat. Nebát se jen teroristů ale i ztráty svých práv a lidské důstojnosti jako takové. V současné době by být vyhodnocen jako nějaký živel (zatím zřejmě nedokonalou počítačovou analýzou) může vést jen k omylům, které se vysvětlí (nepříjemným) pohovorem s bezpečnostním důstojníkem metra nebo policistou (s na něj mířícím samopalem). Možná ani nebudete vědět, že si vás systém dlouhodobě někam škatulkuje jako "potenciální hrozbu" a někam hlásí. Časem může tato analýza ve stylu filmu "Minority report" vést k automatickému zadržení policií do cely (k podobným případům již dochází). S rostoucí mírou technokratické automatizace rozhodování může chybět i ten lidský element, který by šlo alespoň podmáznout nebo ukecat racionálními argumenty.  To vše myslím začíná onou snahou DPP definovat "standardní chování cestujícího" a snahou vytvářet technokratické byrokracie (v boji proti mýtickým nepřátelům).

Také nutno uvážit, i pokud současná administrativa a státní složky nezneužívají tyto kamery k nějaké zlovůli (přitom většina obyvatel ČR je smířena s propojením státní správy a vlády s mafií ale obavy nemá?), tak vše se může změnit později. Není možné se lehkovážně spoléhat na demokracii, zatímco státu a privátním subjektům jsou předávány nebývalé pravomoce a nástroje.

Nevím, kdo je paranoidnější - lidé varující před ztrátou lidských práv nebo ti strašící hrozbou terorismu?

Kamery dle studií nepomáhájí v prevenci kriminality

Několik studií ([1],[2],[3]) ukazuje, že hojně přítomné kamery v Londýně žádným způsobem nesnížily zločinnost ani nepřispěly k objasnění nějakého trestního činu. Ovšem někteří dost vydělali na prodeji této technologie. Dle zmíněných studií kamery pouze pomohly potírat drobné a jiné krádeže (majetkovou kriminalitu). Tyto studie efektivitu kamer mohou chybně podhodnocovat, ale je vhodné si uvědomit, že snižování kriminality kamerami může být jen neustále opakované dogma.

Systém Saab plánovaný pro pražské metro bude jistě velice výhodný pro firmu Saab, ale pro státem financovaný podnik pražského metra jsou to jen další náklady. Nevydělá na tom již zadlužený stát (který financujeme z daní my všichni). Nakonec možná nebudou peníze na jídlo (bude drahé), ale "ochráněni" před terorismem budeme. Přestože není možné případnému teroristickému útoku nijak zabránit, čili jsou veškeré snahy neopodstatněné při uvážení, co tím naopak ztrácíme - právo na soukromí zejména, ale i peníze na to utracené.

Například nové koše v metru (90 tisíc Kč/kus) možná zabrání použít ho k odložení bomby, ale stejně tak může terorista použít výbušninu pod oblečením (typicky se přece sebevražedně odpalují nebo ne?). Teroristé se do košů snad nikdy neschovávali a jsou ochotni si bombu voperovat i do těla. Podobně veškeré snahy na úkor svobody a priorit zamezit různé možnosti hrozeb nikdy nepostihnou všechny možnosti. Nezabrání ani psychické havárii člověka, který se opije a napadne spolucestující. Těm je pro jejich iracionalitu jedno, jestli je vidí kamera.

Úřad pro ochranu osobních údajů (ÚOOÚ) s nápadem DPP zásadně nesouhlasí

Mluvčí ÚOOÚ to řekla trefně, čímž článek nejstručněji zakončím:

Už úvahy DPP o zavedení podobného systému ukazují na naprosté pohrdání základním lidským právem na ochranu soukromého života

Hana Štěpánková, mluvčí ÚOOÚ