Koho potřebuje svět?

Znáte soubor povídek od amerického autora Harlana Ellisona: Nemám ústa a musím křičet? V první povídce se pětice lidí ocitne v útrobách počítače, který se po nabytí vlastní inteligence rozhodl obrátit proti svým stvořitelům.

Připadám si podobně. Při pohledu na dnešní domácí politickou scénu se mi nechce brečet nebo smát. Chce se mi křičet. Neartikulovaně, hlasitě a... explicitně nasraně.

Nebojte, nebude to o politice, jen se o ní otřu. Už jsem se totiž zařekl.

Co si z toho, co se ve světě děje, odnáším?

Svět nepotřebuje dalšího proroka, spasitele nebo nedejbože vůdce. Tenhle svět – a tím myslím vážně celý, nejen ten cirkus u nás – potřebuje...

Správce

Správce není hodný císař. Správce není ani vizionář. Správce je ten, kdo uklidí všechen svinčík.

Bez emocí.
Systematicky.
Efektivně.

Takový člověk se nenarodil a nikdy nenarodí, ale to vlastně vůbec nevadí. Může to být klidně i entita.

Jo, mluvím o AI. Tedy, jednou. Doufám.

Protože my už vážně potřebujeme nakopnout. Ne, válka není pro lidstvo dostatečný trest. Kdyby totiž byla, tak bychom neopakovali navlas stejné chyby jen na jiné pozici časové osy.

Musím se nás zastat.

Žijeme příliš krátce. Nedržíme dlouho v paměti hrůzy, kterými jsme jako lidstvo museli projít. Zapomínáme, jak taková globální válka vždycky začíná.

Je to skoro copy+paste.

Správce v podobě umělé inteligence (té budoucí, pochopitelně) není moudřejší než člověk. Jenže narozdíl od smrtelníků nezapomíná a netrpí kognitivními vadami. Vidí věci v širším kontextu a souvislostech a nebude zavírat oči jen proto, že je to nepříjemné.

Správce nemůže být diktátor. Správce není empatický a nebude odpouštět. Nebude mít potřebu být milován. Měl by zůstat jako nástroj. Nic víc.

Centrální mozek lidstva

Jenže kdo ho bude programovat?
Kdo ho bude kontrolovat?
Co když se splete?
Co když ho někdo vypne?
Co když ho někdo ohne?

Human in the loop.

Pojistka i největší slabina konceptu.

Odbočím, ale budu se držet tématu. V mé druhé a zatím nevydané knize v rámci zápletky předpokládám, že v blízké budoucnosti bude AI součástí běžného života. Podobně jako dnes mobilní telefon. Nebavím se o superinteligenci Trinity, ale o opravdu pokročilém analytickém nástroji na úrovni neviditelné vrstvy.

Jedním takovým je SyVer (System zur Verbrechensanalyse, protože tahle část se odehrává v Německu). Mimochodem, je dost dobře možné, že podobné nástroje už fungují i dnes. Především v bezpečnostních složkách. Co tenhle SyVer dělá?

Neobhajuji existenci SyVeru.

Naslouchá.
Analyzuje.
Reportuje.

Nic nového, nic světoborného. V podstatě to dělají i dnešní bankovní systémy. Chrání klienty před podvodními platbami. Plní požadavky státu v oblasti praní špinavých peněz. Zamezují financování terorismu a obchodu s lidmi.

Samé záslužné věci.

Zpátky k SyVeru. V rámci dějové linky se hlavní hrdina později dozví, proč podepsal nevýhodnou dohodu, která sice zkrátila jeho pobyt ve vězení. Systém na základě veřejných i neveřejných (ano, i neveřejných) smluv, výpisů telefonních hovorů, finančních transakcí a dalších nesouvisejících a nevině vypadajících událostí najde vzor, který odpovídá běžnému patternu kriminálního spiknutí. Hlavního hrdinu podvedl vlastní právník v rámci konspirace jeho životního soka. To není důležité.

Důležité je, že SyVer s 90% přesností určil, co se stalo a automaticky odeslal požadavek na vyšetření příslušnému vyšetřovateli.

Tady je slabina Human in the loop. Vyšetřování bylo pozastaveno na příkaz státní zástupkyně z důvodu státního zájmu. Hlavní hrdina se nejen nedočkal spravedlnosti, ale ani se nedozvěděl, že existuje důvodné podezření, že stal obětí spiknutí, které ho poslalo doslova na okraj společnosti.

Systém správce jaksi nepočítá s naší ochotou odevzdat dozor neutrální entitě. V současné podobě „správcovství“ je možnost vždy to nějak ohnout.

Jenže tím se vlastně stáváme dobrovolnými objekty ve vlastní smyčce.

Existují rovnice, které nemají řešení. Tohle je jedna z nich.

Jedinou možností je tabuli smazat a napsat ji znova a lépe.