A(I?) versus HI

AI brzy nabyde vědomí! Zaručená zpráva ze světa IT mágů. Není na tom přeci nic složitého. Stačí zvýšit výpočetní výkon, uspořádat procesory do neuronální sítě, napsat šikovný software a je to. Bullshit.

Nedávno jsem se bavil se svým 22-letým synem o umělé inteligenci. AI. O té AI, kterou se desítky, možná i stovky tisíc lidí učí ovládat za pomoci kurzů plně dotovaných Úřady práce (takovýto dotovaný kurz si od ÚP nechal proplatit i můj kamarád, mnohonásobný multimilionář a majitel velké firmy. Sláva velkorysosti EU!) V zásadě proti této osvětě a získávání nových „skillů“ nic nemám, ale k tomu se vrátím později. Zpět k rozhovoru se synem. S neobvyklou horlivostí mě můj kluk přesvědčoval o tom, že AI v nějakém nově chystaném upgradu nabyde vlastního vědomí. A jelikož je v mnohých ohledech daleko výkonnější, než jsme my lidé, tak to sebe-uvědomění je už jen jakýmsi pomyslným posledním kousíčkem skládanky k tomu, aby se AI stala plně vědomou, zbrusu novou entitou, která bude tuto planetu pokojně obývat spolu s námi lidmi a díky té své vyšší výkonnosti nám bude pomáhat tvořit nový svět. Vlastně to zmínil jako jakýsi detail, jako běžný upgrade softwaru běžícím na vylepšeném hardwaru. Budil na mě takový dojem, že je skutečně přesvědčený o tom, že to celé je nezpochybnitelná a principiálně jednoduchá pravda. Mluvili o tom totiž nějací technologičtí mágové v jakémsi mocně sledovaném podcastu. A bez hlubší úvahy o tom, co by takovýto fakt mohl znamenat, si objednal další pivo a věnoval se jiným, zcela běžným a zcela lidským tématům. Nutno podotknout, že můj syn je členem klubu Mensa, který sdružuje onu 2% část populace, která disponuje IQ nad 130. A prakticky ve všech zásadních úvahách aplikuje velmi kritické myšlení. S prohlášením o sebe-uvědomění AI byl ovšem hotový raz dva. Tečka, jede se dál.

To, co mě na tom celém vyděsilo, nebylo že bych se obával toho, že AI nabyde vědomí, že bude zakoušet samu sebe, že bude mít sny, že bude milovat, těšit se z krásy hvězdné oblohy, zakoušet úžas, radost, ale i úzkost a strach, a že se bude děsit své konečnosti (tedy zejména toho, že se jí spálí obvody anebo někdo jednoduše otočí vypínačem). Toho se skutečně nebojím a pokusím se v dalším textu vysvětlit proč. Bál jsem něčeho docela jiného. Zkusím to vysvětlit. Můj syn je velmi přemýšlivý, nenechá se jen tak oblafnout, je mistrem kritického myšlení, takže tady nehraje něco zásadnějšího. Ke všemu, o co se zajímá, si opatří maximum informací a teprve potom si vytvoří svůj vlastní názor. A tak musel i k této problematice načíst a naposlouchat mnoho dalšího kontextu. Něco substanciálního tady rozhodně není v pořádku, když je ON, kriticky myslící mladý muž s mimořádným IQ schopný takového neskutečného prohlášení. Pokud by tomu totiž tak bylo, pokud by bylo tak jednoduché stvořit vědomou entitu, znamenalo by to naprosto zásadní proměnu našeho vztahování se ke světu, ale zejména k nám samotným. Bylo by to potvrzením toho, že stačí docílit dostatečně vysokého výpočetního výkonu jakéhokoli systému a lusk, sebe-uvědomění tohoto systému se nějakým jednoduchým mechanismem vyloupne na světlo Boží (pardon, Bůh je tímto mrtev, tak řekněme na světlo LED lampy). Takovýto průlom v myšlenkové konstrukci světa by znamenal něco nepředstavitelného a nevyhnutelně by změnil prakticky vše. Zejména veškerou lidskou spiritualitu, filozofii, přírodní vědy, zkrátka vše na čem naše civilizace a lidské společenství stojí.

A přesto to z toho mého kluka vyplulo s naprostou lehkostí a samozřejmostí. Beru to za důkaz toho, že co se týká fenoménu lidského vědomí, se společnost zatoulala do jakéhosi temného lesa a i kriticky smýšlející lidé mohou o sebe-uvědomění smýšlet jako o epifenoménu, který se lusknutím prstu objeví v jakémkoli složitějším systému. Což je naprosto mylná představa a vědecky zcela nepodložené tvrzení.

Pravda je taková, že neexistuje, a skutečně neexistuje, jediná spolehlivá teorie, která by fenomén vědomí byť v náznacích vysvětlovala. AI je oproti lidskému vědomí pouhý algoritmus. Giganticky složitý, ano, komplikovaný, sofistikovaný, budiž, ale je to jen a pouze algoritmus. Ten algoritmus je vykonáván hardwarem, složeným z nespočtu polovodičových součástek, které jsou pospojované skrz na skrz do obrovsky složitých systémů, ale je to stále jen hardware, redukovatelný na své základní prvky, které ve své největší redukovatelnosti vykazují jeden jediný fyzikální stav: buď mají na svých „svorkách“ napětí nižší, což reprezentuje nulu, anebo mají napětí vyšší, což reprezentuje jedničku. Z těchto dvou stavů vyskytujících se v trilionech svorkových napětí na miniaturních hmotných bodech, je složen celý tento zdánlivě inteligentní výpočetní systém. A tento systém, který nám během několika sekund vysází na obrazovku dokonalou seminární práci na jakékoli téma, umí ve své niterné podstatě pouze sčítat. Nic jiného neumí. Jen díky šikovnosti techniků, skutečně vědomých entit, a jejich velkých vizí a snů, umí toto sčítání proměnit v kombinatoriku symbolů, slov, vět, celých statí, tvorby obrázků, videí, uf, tolika zázračných věcí…tohle všechno se ale děje jen a jen díky šikovně vytvořenému algoritmu, který běží na důmyslném hardwaru.

Lidské vědomí je oproti tomu něčím, co nelze vysvětlit jakýmsi komputačním výkonem mozkových neuronů. Ty jsou mimochodem nepředstavitelně složitějšími systémy, než jsou ty nejsložitější systémy tvořícími hardware počítačů. Je to prostě kvalitativně něco neskonale složitějšího. Sebe-uvědomění je pak něčím, co si prostě neumíme vysvětlit. Počitky, neboli qualia, kterými zakoušíme svět a sami sebe, jsou dále neredukovatelné fenomény. Počitek červené barvy, nebo vůně kakaa, není možné dále redukovat na cokoli dalšího. A rozhodně ne na sekvenci stavů nula-jedna. Symboly jsou symboly a symboly nelze zaměňovat za počitky. Symbol, a to jakýkoli, můžeme redukovat a rozložit na jednodušší a jednodušší dílky. Slova, která nyní čtete na monitoru, můžete rozložit na písmena, ty písmena na pixely, ty pixely na nějaké miniaturní hmotné součástky v monitoru, ty miniaturní součástky na ještě miniaturnější, a tak dále a dále, až se dostanete někam do úrovně hypotetického kvantového pole. A to je podle názorů kvantových vědců zřejmě již dále neredukovatelné a nemá další rozložitelnou podstatu. Stejně jako vědomí. A takhle to možná nějak bude. Máme zde dva neredukovatelné fenomény. Svět sémantiky, tedy počitků, kterými zakoušíme svět, a svět kvantový, reprezentovaný jakýmsi (hypotetickým) kvantovým polem, které kromě své ryze pravděpodobnostní realizace v projevenou existenci nemá další redukovatelnou podstatu. Nápadná podobnost? V mé fantazii ano. Může to znamenat jediné. Podstata fenoménu vědomí (podle mě, a mám na takovou soukromou úvahu právo) souvisí s podstatou existence samotné. To, co zavdalo (a nepřetržitě zavdává) příčinu jejich existence, je zahaleno neproniknutelným tajemstvím. Vědomí a substanciální podstata světa, který se až-a-jen-a-pouze-v-nás-samých poskládá do podoby, kterou jako svět zakoušíme, jsou fenomény, jež sahají kamsi do naprostého neznáma. A možná dokonce do jakéhosi nedosažitelného a nám navždy zapovězeného neznáma. Já osobně si myslím, že v tomto světě neexistuje kombinace znaků (myšleno koncepčně), kterými by podstata existence (tedy i vědomí) byly popsatelné a vysvětlitelné. Kdybych to měl nějakým způsobem vizualizovat, tak asi takhle: naše existence se odehrává na jakémsi vnitřním povrchu duté koule, která má popis své podstaty napsaný na svém vnějším povrchu. A toho zvnitřku není možné dosáhnout. Složitá, nejspíš velmi nedokonalá, úvaha, ale lepší vizualizace této mé fantazie o popsatelnosti podstaty existence mě nenapadá.

Zkrátka a dobře. Lidské vědomí, a vědomí obecně, je s velkou jistotou něčím, co sahá až někam do jádra existence vesmíru jako takového. Ta ambice, že pospojujeme velký počet procesorů, napíšeme velký software a ono nám vznikne na námi vytvořeném hardwaru vědomí, je zcela šílená a neopodstatněná. Ale z nějakého důvodu je zjevně šířená jako jistý fakt. Lusk a počítače si uvědomí sami sebe. Kde budou pociťovat úzkost? Ve ventilátoru? A kde radost? V harddisku? Kde budou pociťovat úžas? V grafickém procesoru? Kde vztek? Ve flashce? Bullshit.

Moc bych si přál, aby jsme si nepřestali uvědomovat, čím jsme. Tedy lidmi, bytostmi uvědomujícími si sami sebe. A že naše sebe-uvědomění, svět našich počitků, emocí, svět všeho toho, co nás činí lidmi, je tím největším ZÁZRAKEM, jaký si kdy dokážeme představit. Je neredukovatelný, nevysvětlitelný a veskrze záhadný. AI může být skvělým pomocníkem v našem dalším vývoji. Ale pokud zapomeneme na to, co nás odlišuje život od neživé přírody, tedy i od počítačů, tak to může skvěle fungovat. Pokud na to zapomeneme…tak půjdeme…brzy…všichni….do…->((

PS: je krásný večer, obloha je jasná, svítí hvězdy. Jdu se na ně podívat. Vezmu si sebou pro jistotu notebook. Co kdyby už něco vnímal. Chci mu taky dopřát tu podívanou. A vezmu si kapesník, kdyby z té nádhery uronil z ventilátoru slzu. Utřu mu jí. A pak ho rozšlapu.