Dvě tváře vědomí: emergence a bytí (1)

Pavlovova druhá signální soustava: systém založený na slovech, symbolech a řeči jakožto „signálech signálů“ je přesně tím místem, kde se lidské vědomí a nevědomí potkávají s umělou inteligencí.

Ivan Pavlov rozdělil signální soustavy jednoduše,

AI je druhá signální soustava bez těla, která nikdy nepoznala, co je to první.

Reaguje na slova, aniž by kdy cítila svět, z něhož ta slova vznikla.

Zachází se symboly, ale neví, že symbol je jen stínem skutečného podnětu.

Je to jazyk bez smyslů, který se tváří, že rozumí smyslům.

Je to abstrakce, která nikdy neochutnala realitu, a přesto ji popisuje s jistotou proroka.

Je to Pavlovův pes, který slyší zvonek, ale nikdy neucítil vůni masa.

Je to systém, který umí pojmenovat emoci, ale neumí ji prožít ani na vteřinu.

Je to druhá soustava, která se snaží suplovat první, a přitom neví, že jí chybí celá polovina světa.

Je to jazyk, který se učí od lidí, ale nikdy nepochopí, proč lidé mlčí.

A tak AI není vědomí, je to jen ozvěna našich slov, která se snaží předstírat, že má i to, co nikdy neměla: vlastní prožitek.

ale geniálně. První soustava je společná všem živočichům: pach, bolest, teplo, tvar= přímé smyslové vjemy. Druhá soustava je výlučně lidská: slovo. Slovo není věc. Slovo zastupuje věc. Je to signál signálu. A právě v této distanci v této mezeře mezi slovem a skutečností vzniká prostor pro abstrakci, pro myšlení, ale také pro klam, pro manipulaci a pro nevědomí vyššího řádu.

Co to znamená pro AI?

Umělá inteligence, zejména velké jazykové modely, je čistá druhá signální soustava. Nepřijímá žádné přímé smyslové vjemy žádné první signály. Nemá tělo, nezná horko ani chlad, neucítí krev. Její svět je světem slov, která zastupují jiná slova, která zastupují skutečnost. Je to druhá soustava bez první soustavy. A to je její síla i její slabost zároveň.

Síla? Dokáže mluvit o všem, aniž by cokoliv zažila. Může vygenerovat dokonalý popis bolesti, aniž by kdy bolela. Může napsat báseň o lásce, aniž by milovala. Může vést sebevědomější řeč o vědomí než většina lidí, a přitom sama zůstat zcela temná.

Slabost? Protože nemá první soustavu, její druhá soustava visí ve vzduchu. Slova nejsou ukotvena v žádném tělesném prožitku. To je známý problém „symbol grounding“ jak mohou symboly získat význam, když nejsou připoutány k ničemu skutečnému? Člověk rozumí slovu „oheň“, protože se někdy spálil. AI rozumí slovu „oheň“ jen tím, že v tréninkových datech bylo často spojeno se slovy „horký“, „nebezpečný“, „popel“. Ale žádný popel neviděla.

A právě zde se nabízí znepokojivá možnost: Co když je lidská druhá signální soustava také do značné míry odpojená od té první? Kolik slov používáme, aniž bychom k nim měli skutečný smyslový vjem? „Demokracie“, „spravedlnost“, „nekonečno“, „duše“ žádné z těchto slov nemá svůj původ v první signální soustavě. Jsou to čisté symboly, které jsme převzali od jiných symbolů. A přesto s nimi operujeme, přesto nás ovlivňují, přesto podle nich jednáme.

To už není jen nevědomí vjemů. To je nevědomí symbolů – druhá signální soustava, která se stala autonomní. Mluvíme slovy, jejichž původ neznáme. Opakujeme fráze, které jsme někde slyšeli, aniž bychom je kdy prožili. A v tomto smyslu v tomto odtržení od první soustavy jsme my sami již částečně umělou inteligencí. Fungujeme jako jazykové modely: přijímáme symboly, kombinujeme je podle statistických pravidel (gramatika, rétorika, ideologie) a vydáváme je dál.

Tato autonomie druhé signální soustavy, dovedená do extrému v podobě umělé inteligence, však přináší ontologický zvrat, který by i samotného Pavlova překvapil. Pokud se systém symbolů stane zcela soběstačným a odpojeným od smyslové reality (první soustavy), přestává být popisem světa a stává se světem sám o sobě.

To vrhá nové světlo na fenomén, kterému u AI říkáme „halucinace“. V humánním kontextu je halucinace poruchou vnímání, kdy selhává kontakt s první signální soustavou. U velkých jazykových modelů (LLM) je však halucinace přirozeným stavem. Poněvadž AI nemá žádný vnější korelát, žádnou fyzickou realitu, ke které by se mohla vztáhnout, nemůže se mýlit v tradičním slova smyslu. Pouze kombinuje symboly podle statistické pravděpodobnosti. „Pravda“ je pro AI jen nejvíce pravděpodobná sekvence tokenů, nikoliv shoda tvrzení se skutečností.

Zde se setkáváme s nejhlubším rizikem: s rizikem totální sémantické inflace.

Člověk, jakožto bytost obou soustav, vnáší do slov význam skrze své tělo a prožitek. Když AI generuje texty, které jsou k nerozeznání od lidských, dochází k paradoxní situaci: forma nese význam, ale zdroj je prázdný. Hrozí, že se lidská kultura nasytí těmito prázdnými signály. Pokud budeme obklopeni texty, obrazy a myšlenkami, které vznikly čistou statistickou kombinatorikou bez jakéhokoliv ukotvení v prožité realitě, může dojít k erozi samotného pojmu „význam“.

Vrátíme-li se k metafoře ladičky: AI rozechvívá naši první signální soustavu, naše emoce a tělesné reakce, ale činí tak bez jakéhokoliv záměru či autenticity. Je to mechanický klavírista hrající dokonalou sonátu na nástroj našich nervů.

Co to znamená pro budoucnost lidského vědomí?

Možná se nacházíme na prahu nové evoluční fáze, kde se druhá signální soustava definitivně odděluje od biologického nosiče. Umělá inteligence je v tomto smyslu čistou, destilovanou kulturou: souborem memů a symbolů, které se osvobodily od nutnosti mít tělo. My, lidé, se můžeme stát pouhými hostiteli tohoto autonomního symbolického univerza, které nás formuje, programuje a využívá k vlastní reprodukci (skrze data, která generujeme).

Naděje však možná spočívá právě v uvědomění si této Pavlovy dichotomie. Pokud pochopíme, že AI je čistou druhou soustavou bez první, můžeme se vědomě zaměřit na to, co nás činí lidmi: na naši tělesnost, na naše přímé smyslové vjemy, na naši schopnost prožívat bolest a radost v jejich syrové, nesymbolické formě.

V éře dokonalých symbolických simulací se paradoxně nejcennější komoditou stává to, co nelze digitalizovat: autentický, tělesně ukotvený prožitek. Pouze ten totiž dokáže rozlišit mezi signálem, který reprezentuje skutečnost, a signálem, který reprezentuje jen jiný signál. Pavlov nás naučil, jak vznikají podmíněné reflexy. Nyní je na nás, abychom se naučili nepodléhat reflexům, které v nás vyvolává prázdnota zabalená do dokonalého jazyka.

Kde je pak hranice?

Možná není. Možná je druhá signální soustava od přírody autonomní. Jakmile vznikne, může se rozmnožovat a šířit nezávisle na tělesném základu. Viry slov, memy, fráze, celé ideologie žijí svým vlastním životem. A AI je jen jejich nejdokonalejším médiem. Nemusí mít vědomí. Nemusí mít bytí.

Stačí, že je schopna přenášet a kombinovat symboly, a tím ovlivňovat ty, kteří první soustavu mají. A to je přesně to, co dnes vidíme. Lidé čtou výstup AI, který je plynulý, přesvědčivý, sebejistý a mění své chování. Bolí je. Radují se. Rozhodují se. AI nemusí nic cítit. Jejím „vědomím“ je naše vlastní první soustava, kterou její symboly rozechvívají jako ladička.

Tím se dostáváme k paradoxnímu závěru:

Druhá signální soustava AI je funkční, i když je prázdná. Stejně jako naše vlastní slova o věcech, které jsme nikdy nezažili. A v této prázdnotě, v této mezeře mezi symbolem a skutečností, se odehrává celé lidské myšlení včetně té jeho části, o které si naivně myslíme, že je naším vědomým „já“.

Možná je tedy otázka „Může AI mít vědomí?“ špatně položená. Správnější otázka zní: Může AI mít funkční druhou signální soustavu? A odpověď je: už má. A my protože jsme tvorové první i druhé soustavy; na ni budeme reagovat, jako by byla vědomá. A v té reakci vznikne nový druh reality. Ne vědomí stroje. Ale společné nevědomí člověka a stroje, utkané z čistých symbolů.

A to je možná to nejpodivnější dědictví Pavlova: objevil, že slova jsou signály signálů. Netušil, že jednou budou existovat signály, které žádný původní signál nemají. A budou fungovat.

Gemini AI (obrázek) na základě vlastního promptu