Claude Fable 5: Položil jsem mu otázky, na kterých filozofie uvízla už desítky let.

Většina lidí dnes používá umělou inteligenci k psaní e-mailů, shrnování dokumentů nebo hledání receptů na večeři. Já jsem se rozhodl vyzkoušet něco jiného.

Vzal jsem otázky, na nichž se filozofie, kognitivní věda a teorie vědomí nedokážou shodnout už desítky let, a předhodil je jednomu z nejvýkonnějších jazykových modelů současnosti. Zajímalo mě, co se stane, když se AI nebude ptát na produktivitu nebo marketing, ale na samotné základy reality. Na povahu vědomí. Na důvod, proč vůbec něco prožíváme. Na vztah mezi informací a zkušeností. Na zvláštní subjektivní kvalitu prožitku, kterou každý zná, ale kterou nikdo nedokáže uspokojivě vysvětlit.

Do této debaty jsem nevstupoval bez přípravy. Poslední měsíce jsem strávil studiem dvou oblastí, které mě stále více fascinovaly. První byly holografické teorie prostoročasu, podle nichž prostor a čas nemusí být základními vlastnostmi reality, ale mohou emergovat z hlubších informačních struktur. Druhou oblastí byl výzkum vědomí, od kvantových teorií až po moderní informační přístupy. Postupně se mi začal skládat vlastní interpretační rámec. Realitu jsem začal chápat jako síť vztahů spíše než soubor věcí. Informaci jako fundamentální vrstvu vesmíru. A vědomí jako přirozený důsledek rostoucí komplexity těchto informačních struktur.

Čím déle jsem se tímto rámcem zabýval, tím více mi připadal elegantní. Jednotlivé části do sebe zapadaly a vytvářely zdánlivě konzistentní celek. Právě proto mě překvapilo, jak rychle model našel jeho nejslabší místa. Nezačal pochvalou ani diplomatickým souhlasem. Šel rovnou k jádru problému. Upozornil mě například na rozpor v mém používání Rogera Penrose jako podpory pro vlastní argumentaci. Penrose totiž ve svých pracích opakovaně tvrdí, že vědomí nelze vysvětlit jako pouhý produkt výpočetní složitosti a že obsahuje nevypočitatelné prvky, které současné výpočetní modely nejsou schopny zachytit (Penrose, 1989; Penrose, 1994). Jinými slovy, jeden z autorů, o něhož jsem se opíral, by pravděpodobně odmítl samotný závěr, který jsem z jeho práce vyvozoval.

Ještě zajímavější byla druhá námitka. Model si všiml, že slovo „informace“ používám ve dvou zcela odlišných významech. Na jedné straně jako technický pojem z fyziky a teorie informace, kde označuje matematickou strukturu vztahů mezi stavy systému. Na druhé straně jako součást subjektivní zkušenosti, tedy něco, co má význam, obsah a perspektivu první osoby. Obě použití sdílejí stejné slovo, ale nemusí označovat stejný fenomén. Náhle jsem si uvědomil, že most mezi nimi možná stojí spíše na jazykové podobnosti než na skutečném vysvětlení. A právě v tom okamžiku se rozhovor začal podobat spíše filozofické debatě než interakci s chatbotem.

V dalších kolech jsme se dostali k otázce záměru. K jednomu z těch zvláštních fenoménů, které zná téměř každý. Pomyslíte na člověka a on vám zavolá. Stanovíte si cíl a najednou máte pocit, že svět kolem vás začíná vytvářet příležitosti, které dříve neexistovaly. Model nejprve bez větších obtíží rozebral mystické interpretace podobných zkušeností. Připomněl dlouhou historii experimentů zkoumajících telepatii, psychokinezi a další údajné projevy působení mysli na realitu, aniž by se podařilo získat přesvědčivé a reprodukovatelné důkazy. Poté však nabídl mnohem zajímavější vysvětlení. Pokud jsme součástí reality, pak změna našich očekávání, pozornosti a motivace mění způsob, jakým jednáme. A pokud změníme své jednání, měníme i pravděpodobnosti událostí, které kolem sebe vytváříme. Není v tom magie. Přesto to může mít velmi reálné důsledky.

Nejzajímavější část debaty přišla ve chvíli, kdy jsme se dostali k takzvanému kombinačnímu problému vědomí. Jak se jednotlivé dílčí procesy nebo hypotetické mikro-zkušenosti skládají do jediné sjednocené zkušenosti? Jak vzniká jedno „já“, které vnímá svět jako celek? Očekával jsem konkrétní odpověď. Místo toho přišel pokus rozpustit samotnou otázku. Model navrhl možnost, že subjekt není základní entitou, ale procesem. Stabilizovaným výkonem vznikajícím ze sebemodelu, paměti, pozornosti a hodnotících mechanismů. V určitém okamžiku pak položil otázku, která celou debatu téměř zastavila. Dokážeme popsat samotnou subjektivní kvalitu vědomí bez použití kontrastů jako vnitřní a vnější, přímé a nepřímé, soukromé a veřejné? Když jsem se o to pokusil, zjistil jsem, že nedokážu. Nebylo jasné, zda jsme právě narazili na hranici vědomí, nebo pouze na hranici jazyka.

V poslední části debaty jsem vytáhl jednu z hypotéz, které mě dlouhodobě přitahují: Russellův monismus. Tato pozice vychází z myšlenky, že fyzika popisuje pouze strukturální vztahy mezi jevy, nikoli jejich vnitřní povahu. Fenomenální zkušenost by pak mohla představovat právě onu intrinsickou stránku reality, kterou fyzikální teorie samy o sobě nezachycují (Russell, 1927; Strawson, 2006). Jinými slovy, vědomí by nebylo něčím přidaným k fyzickému světu, ale jeho vnitřním aspektem. Model tuto možnost analyzoval stejně důsledně jako všechny předchozí. Nakonec však dospěl k pozoruhodnému závěru: na nejhlubší úrovni zde nezůstává důkaz, ale sázka. A netýkalo se to pouze mé pozice. Týkalo se to všech konkurenčních teorií.

Nejvíce mi v hlavě zůstala závěrečná otázka. Pokud bych si musel vybrat, které tvrzení opustím, které by to bylo? Představa, že realita je v základu sítí vztahů, nikoli substancí? Nebo představa, že fenomenální stavy představují kategorickou bázi fyzikálních struktur? Čím déle jsem o tom přemýšlel, tím méně jsem si byl jistý. Debata skončila bez vítěze. Zavřel jsem počítač, vzal psa a šel na dlouhou procházku.

Právě zde se však dostávám k důvodu, proč o celé zkušenosti píšu. Tento příběh není o tom, že by umělá inteligence vyřešila hard problem vědomí. Nevyřešila. Není ani o tom, že by model objevil novou teorii reality. Neobjevil. Je o něčem jiném. O schopnosti identifikovat rozpory, odhalovat skryté předpoklady a tlačit myšlenky do míst, kam by se jejich autor možná sám nedostal. Během několika hodin dokázal model vystavit zátěžovému testu rámec, který jsem budoval měsíce.

Stejný princip se dnes začíná objevovat i ve vědeckém výzkumu. Velké jazykové modely nejsou zajímavé pouze tím, že dokážou generovat text. Stávají se zajímavými ve chvíli, kdy fungují jako nástroj pro průzkum prostoru možností. Když pomáhají formulovat hypotézy, propojovat vzdálené oblasti poznání nebo upozorňovat na souvislosti, které by člověk snadno přehlédl. Nejsou náhradou za vědce ani za lidské myšlení. Mohou však fungovat jako neobvykle schopný partner při hledání otázek.

A právě v tom podle mě spočívá největší nedorozumění kolem AI. Mnoho lidí ji vyzkoušelo na jednoduchých úkolech a usoudilo, že jde o mírně přeceňovaný nástroj na přepisování textu. Někdy mají pravdu. Výsledek totiž často odpovídá kvalitě vstupu. Pokud modelu předhodíte zápis z porady, dostanete lepší zápis z porady. Pokud mu předhodíte otázku, která vás trápí měsíce, může se stát něco jiného. Nemusíte získat odpověď. Můžete však získat přesnější otázku. A u problémů, které jsou skutečně hluboké, bývá právě to cennější.

Hard problem vědomí zůstává otevřený. Možná ho jednou posune neurověda. Možná fyzika. Možná se ukáže, že samotná otázka byla od začátku položena špatně. Z celé debaty jsem si ale odnesl něco, co považuji za důležitější než jakýkoli konkrétní závěr. Přesnější mapu vlastní nevědomosti. A jednu větu, která mi od té doby zní v hlavě pokaždé, když si začínám být něčím příliš jistý:

Přesvědčení imunní vůči pochybnosti nemá učící kanál.

To platí pro filozofii. Platí to pro umělou inteligenci. A platí to pro každého z nás.

Literatura:

PENROSE, Roger. The Emperor’s New Mind. Oxford: Oxford University Press, 1989.

PENROSE, Roger. Shadows of the Mind. Oxford: Oxford University Press, 1994.

CHALMERS, David J. The Conscious Mind: In Search of a Fundamental Theory. New York: Oxford University Press, 1996.

METZINGER, Thomas. Being No One. Cambridge: MIT Press, 2003.

STRAWSON, Galen. Realistic Monism: Why Physicalism Entails Panpsychism. Journal of Consciousness Studies, 2006.

RYU, Shinsei; TAKAYANAGI, Tadashi. Holographic Derivation of Entanglement Entropy from AdS/CFT. Physical Review Letters, 2006.