Umělá inteligence halucinuje. Fůj! A co naše vlastní halucinace?

AI někdy vytváří přesvědčivé nesmysly. Jenže my lidé děláme něco podobného se vzpomínkami, názory i vlastní minulostí. Rozdíl je v tom, že své halucinace často považujeme za pravdu.

V poslední době jsem už mnohokrát slyšel jeden zaručeně tvrdý argument proti umělé inteligenci: „Vždyť ona halucinuje!“ Lidsky řečeno: občas si něco vymyslí. Dobře. To je jistě problém. Jen mám trochu zvláštní pocit, když se nad tím pohoršujeme my lidé. Protože člověk je v tomhle oboru také velmi zkušený. Jen tomu neříkáme halucinace. Říkáme tomu vzpomínka. Názor. Nebo prostě: „Já vím, jak to bylo.“
Člověk si také umí vymýšlet
Nechci teď řešit, proč umělá inteligence někdy vytvoří přesvědčivou odpověď, která není pravdivá. Ani nechci rozebírat, jestli za to může špatné zadání, způsob práce modelu nebo něco jiného. Mě zaujalo něco mnohem lidštějšího. Jak často si vymýšlíme my? Nejen fakta. Vymýšlíme si především významy. Proč se na nás někdo podíval. Co tím určitě myslel. Proč nám neodepsal. Proč se nám něco nepodařilo. A především proč jsme my sami v nějaké situaci jednali právě tak, jak jsme jednali. A protože svůj vlastní příběh vyprávíme sami sobě pořád dokola, máme jednu velkou výhodu. Naše verze reality nám časem začne připadat jako realita samotná.
Vzpomínka není videozáznam
Představte si, že si vzpomenete na nějakou událost z dětství. Vzpomínku si přehrajete v hlavě. Jenže ve skutečnosti nepřehráváte video. Vytváříte ji znovu. A pokaždé do ní může vstoupit něco nového. To, co dnes víte. To, co si o sobě dnes myslíte. To, jak událost potřebujete chápat. A tak se může stát zvláštní věc. Po dvaceti letech máme dokonale jasnou vzpomínku na něco, co už si ve skutečnosti možná nepamatujeme. Pamatujeme si hlavně příběh, který jsme si o tom postupně vytvořili.
A ten příběh bývá podezřele lichotivý
Člověk má totiž jednu zvláštní potřebu. Chce rozumět sám sobě. A ještě raději chce sám sobě rozumět tak, aby se sebou mohl žít. Takže z: „Udělali jsme chybu.“ se může časem stát: „Neměli jsme na výběr.“ Z: „Zachoval jsem se zbaběle.“ vznikne: „Bylo rozumnější ustoupit.“ Z: „Záviděl jsem mu.“ je najednou: „Vadilo mi, jak se choval.“ A z: „Nevyšlo mi to.“ se časem stane: „Stejně jsem o to vlastně nestál.“ To už není vědomá lež. Je to mnohem rafinovanější. Je to příběh, kterému jsme postupně začali věřit.
Problém není jen v pravdě
Možná si teď říkáte: „A co je na tom? Každý přece věci nějak interpretuje.“ Přesně tak. Interpretace sama o sobě není problém. Bez ní bychom světu vlastně ani nerozuměli. Potíž začíná ve chvíli, kdy přestaneme rozlišovat mezi tím, co víme, a tím, co jsme si vysvětlili. Když už neřekneme: „Myslím si, že to udělal proto.“ Ale: „On to udělal proto.“ To je obrovský rozdíl. V první větě je prostor pro pochybnost. V té druhé už je rozsudek.
A pak se divíme, že jsme nejistí
Tady se dostáváme k něčemu, co mě na tom všem zajímá nejvíc. Mám pocit, že člověk potřebuje ke svému vnitřnímu klidu alespoň nějakou míru souladu sám se sebou. Když ale neustále něco přikrášlujeme, popíráme, vysvětlujeme jinak, než to skutečně prožíváme, a sami sobě vyprávíme příběh, kterému úplně nevěříme, vzniká zvláštní vnitřní napětí. Jedna část nás totiž ví. A druhá část nás tvrdí něco jiného. A někde uvnitř se pak ozývá nepříjemný pocit: „Počkej… ale takhle to přece nebylo.“
Kolik energie stojí vlastní lež?
Když lžeme druhým, musíme si pamatovat, co jsme komu řekli. Když ale lžeme sami sobě, máme problém ještě větší. Protože od sebe neutečeme. Musíme svou verzi reality udržovat neustále. Pamatovat si ji. Obhajovat ji. Vysvětlovat si rozpory. A když narazíme na něco, co do ní nezapadá, musíme to nějak zpracovat. Možná právě proto je někdy psychicky tak vyčerpávající připustit si obyčejnou větu: „Možná jsem se tehdy mýlil.“ Protože s ní se někdy nezhroutí jen jeden názor. Zhroutí se celý příběh, který jsme kolem něj postavili.
Umělá inteligence má jednu výhodu
Když AI něco vymyslí, můžeme jí to vytknout. Můžeme se zeptat: „A odkud to víš?“ Můžeme ověřovat zdroje. Můžeme hledat chybu. U sebe to máme mnohem těžší. Protože když nám někdo řekne: „Možná si to pamatuješ trochu jinak,“ málokdy odpovíme: „To je možné.“ Častěji začneme dokazovat, že pravdu máme. A čím víc dokazujeme, tím víc se naše verze reality upevňuje.
Možná bychom měli být podezřívaví i sami k sobě
Neznamená to nevěřit vlastnímu úsudku. Ani zpochybňovat každou vzpomínku. Jen občas připustit jednu jednoduchou možnost: Moje hlava mi právě nabízí interpretaci, nikoli nutně skutečnost. Možná mě ten člověk opravdu chtěl urazit. Ale možná byl jen unavený. Možná mě skutečně odmítli kvůli tomu, že nejsem dost dobrý. Ale možná měli úplně jiný důvod. Možná jsem tehdy udělal správnou věc. A možná si to jen dnes potřebuji myslet. Nevím. A právě tohle malé „nevím“ může být někdy překvapivě zdravé.
Na závěr
Takže ano. Umělá inteligence někdy halucinuje. Někdy vytvoří něco, co zní naprosto přesvědčivě, a přitom to není pravda. Je to problém. Ale možná bychom se při tom pohoršení mohli na chvíli zastavit a podívat se také na sebe. Protože člověk dělá něco podobného už tisíce let. Jen jsme tomu dali hezčí názvy. Vzpomínka. Interpretace. Názor. Vysvětlení. Vlastní pravda. A možná je na celé věci nejzajímavější právě tohle: Když halucinuje umělá inteligence, chceme ji opravit. Když halucinujeme my, často raději opravíme realitu. A pak se divíme, proč jsme uvnitř tak nejistí. Možná totiž ke klidu nepotřebujeme dokonalejší příběh. Možná potřebujeme jen trochu pravdivější.