Nafukovací hrad, taky jednou splaskne

Když se dnes řekne „umělá inteligence“, lidská představivost okamžitě vytvoří obraz dokonalého bytí z ušlechtilého kovu, které nám uvaří kávu, vyřeší manželskou krizi, napíše ověnčený román a mezitím ještě vyléčí rakovinu...

Realita, jak ji dennodenně zakoušíme, je ovšem neskonale prostší a bizarnější: AI se zatím nejlépe etablovala jako nejdražší a nejhlučnější generátor powerpointových prezentací a mírně přesvědčivých e-mailů v dějinách lidstva. (Pravda, nejsou už v powerpointu, ale v zásadě se tak moc neliší – však bych dneska bez ní už neudělal vůbec nic). Jsme svědky zrodu nového náboženství, jehož dogmata přijímáme s náboženskou horlivostí a jehož proroky jsou hipsteři v mikinách... detaily si dolňte sami. Oblíbenou větou jednoho z nich je například tvrzení: „já teď děti nechci, až budou k dispozici mozkové sondy, aby moje dítě bylo chytřejší než ostatní.“ (parafrázováno)

Ekonomika víry: Když graf nahradí zázrak

Investoři se v tomto novém věku chovají jako středověcí poutníci táhnoucí ke zázračné studni. Jen místo svaté vody chlemtají data z tréninkových dat, které cestou kradou a místo modlitebních knížek svírají v rukou graf růstu akcií, jehož exponenciální růst je považován za neklamný důkaz boží přízně. Všichni slepě věří, že pokud budou dostatečně dlouho a dostatečně hluboce sypat miliardy do žhavících se serveroven, jednoho dne se z této digitální Lourdské jeskyně vylíhne mesiáš v podobě AGI (Artificial General Intelligence), který jim nejen vrátí investici, ale promění je v vládce galaxie.

Logika „vyhazujeme peníze, dokud se nestane zázrak“ se stala ústřední ekonomickou doktrínou naší doby.

Je to vlastně kvantová fyzika aplikovaná na finance: pokud do dostatečně velkého projektu nahážete dostatečné množství kapitálu, může se současně nacházet ve stavu „revoluční průlom“ i „naprostý propadák“, dokud jej někdo nezměří – tedy dokud nezkrachuje nebo opravdu nezačne létat na Mars.

Energetická dieta pro umořenou planetu

Naše AI mazlíčky bychom mohli s nadsázkou přirovnat k rozmazleným západním civilizacím. Jejich apetit po elektřině je tak monstrózní, že kdybychom všechny servery náhle vypnuli, celá planeta by si povzdechla úlevou, jako když si konečně sundáte těsné džíny po vydatném obědě. Místo abychom tuto energii věnovali na něco tak přízemního a neatraktivního, jako je stabilizace rozvodné sítě nebo výzkum fúze, raději ji obětujeme na oltáři pokroku, aby se neuronová síť naučila generovat stále realističtější obrázky koček v astronautských helmách nebo dokázala s patosem Shakespeara napsat báseň o vlivu durianu na pachové buňky našince. Ironií osudu je, že zatímco marketingové brožury těchto firem mluví o „udržitelné budoucnosti“, jejich datová centra spotřebovávají více energie než celé menší státy. Snad jednou vyvinou AI, která bude umět vymyslet ospravedlnění pro tuto environmentální schizofrenii. Není trochu ironické i následující zjištění?

Zatímco Greta Thunberg je velmi známá svou kritikou politiků, fosilního průmyslu a ekonomického systému z hlediska klimatické krize, ve vyhledávaných zdrojích nenacházíme její konkrétní a rozsáhlé vyjádření namířené přímo proti AI. Jakpak je to možné? Že by i ona jela na výživové vlně AI? Nevím...

Produkt? Ale kdepak. Ne, prodává se příběh!

Nejgeniálnějším trikem celého AI průmyslu není technologický průlom, ale magické přeskupení priority. Podařilo se mu totiž přesvědčit celý svět, že příběh o AI je neskonale hodnotnější než její hmatatelný výstup. Firma jako OpenAI, Google DeepMind nebo Anthropic nejsou v první řadě technologické společnosti. Jsou to moderní divadelní soubory, putující od konference ke konferenci a hrající stejnou hru: „Blížíme se k singularitě.“ Každý jejich keynote je pečlivě secvičené shakespearovské ... drama (tragikomedie). Herec-vyvolávač (CEO) s náboženským zápalem oznámí: „Podívejte, náš nový model umí generovat pětiminutové video na základě textového popisu! (Potlesk, jásot.) Ano, jeho trénink stál 500 milionů dolarů a výsledek občas vypadá, jako by ho kreslilo pětileté dítě pod vlivem halucinogenů. (Ticho, přecházející v trapné přešlapování.) Ale příště to bude lepší! (Nadšený jásot.)“ Prodává se vzdušný zámek, ale prezentuje se jako hotový mrakodrap s garáží pro létající auta.

Halucinace jako umělecký výtvor

Jedno z nejúžasněji překroucených slovních spojení je „AI halucinace“. Když obyčejný člověk lže nebo si něco vymýšlí, je to podvod. Když to dělá AI, je to „tvořivá halucinace“. Je to jako kdyby si Picasso namaloval čtverec a prodal ho jako „inovativní reinterpretaci kruhu“. AI vám s jistotou sebevědomého profesora historie sdělí, že Napoleon zemřel v roce 1967 během přistání na Měsíci, a bude trvat na své pravdě. My se tomu zasmějeme a řekneme: „Ale je to přece tak kreativní!“ Tím jsme oficiálně snížili laťku pro pravdivost pod úroveň hospodského tlachání. Však to už věděli alchymisté na Rudolfově dvoře, když přes patlama, patlama vyrobili alespoň tu slivovice. Jenže ona je to přesně stejná lež, jako když ji napíše novinář či manželka ukecá svou nevěru.

Co když bublina praskne? Nástin digitální apokalypsy

Až tato nádherně duhová bublina s praskavým efektem exploduje, bude to spektákl hodný finále ohňostroje. Akcie se propadnou do hlubin, odkud není návratu, investoři budou ronit krokodýlí slzy do svých hedvábných elitních kapesníků a startupoví „visionáři“ se budou muset vrátit ke své původní živnosti: prodávat fair trade kávu v coworkingových prostorech nebo zakládat životní koučingové platformy. Bude to bolestivé, hlučné a plné soudních sporů.

Ale ... možná to bude také nesmírná úleva. Přestaneme se totiž trapně tvářit, že každý mírně vylepšený algoritmus je předzvěst digitálního boha. Až se prach usadí, možná konečně začneme řešit, jak může AI skutečně, neokázale a užitečně pomáhat: ve školách jako personalizovaný pomocník učitele, v nemocnicích při analýze snímků, nebo jako nástroj, který nám pomůže vyplnit ty šíleně složité daňové formuláře, jež dnes připomínají sudoku pro masochisty.

Možná zjistíme, že nepotřebujeme digitálního mesiáše, který nás všechny nahradí.

Stačí nám inteligentní pomocník, který umí zatlouct digitální hřebíček, aniž by přitom sežral celou elektrárnu a nevymýšlel si přitom o Napoleonovi na Měsíci.

AI bublina je jako obří nafukovací hrad na pouti: je barevná, hlučná, všichni se do ní chtějí dostat a z výšky vypadá úžasně. Ale každý, kdo je uvnitř, cítí, že podlaha se nebezpečně pohupuje a vzduch pomalu uniká. Otázka už dávno není, jestli praskne, ale kdy a kdo zůstane uvnitř, až to udělá „bác“. A dnes i ti, co si s AI vydělávají, a ne málo ve školství, najednou říkají, že nám děti (nechci napsat hloupnou), ale vědí skoro nic

Až ten den přijde, možná s úlevou zjistíme, že skutečná inteligence nebyla v těch strojích, ale v naší schopnosti je vypnout a jít si raději ven zaběhat. (Tak tohle o mně fakt sedí).