Může mít AI nekonečné IQ nebo má své limity?

Dnes vládne nad AI obrovské nadšení, kterému podléhám dost i já, a používám ji denně a skoro ke všemu, nicméně .... stejně si myslím, že AI má své principiální limity. A i to své nadšení z ní beru částečně jako telecí optimismus.

Ptáte se, k čemu jsem už AI použil? V každou chvíli ji používám třeba k tomu, abych si nějak nastavil aplikace na mobilu nebo počítači. Mám například u noťasu vypnutý zvuk, tak se mi už stalo, že mi klekla uprostřed práce baterie a to bez výstrahy. Tak mi AI vysvětlila, jak udělat, aby varování před vybitím proběhlo zablikáním obrazovky. Podobných nastavení na mobilu, sporttesteru, na chytrých hodinkách nebo brýlí s AI jsem už s pomocí AI udělal desítky. Nejsem žádný ajťák, abych do dával bez AI, i když jsem IT vlastně vystudoval. :)

Nebo mi AI poradila, jaké boty s nejměkčí podrážkou se dají koupit, a kde je mají či jak zapnout tempomat u mého autíčka, nebo kde koupím dřevník právě těch rozměrů, které potřebuju do omezeného prostoru, či jak chránit štípací špalek proti shnití. A takových případů jsou už stovky.

Zde autoportrét Chatu GPT 5.3

V poslední době vypuklo nadšení i mezi vědci, že AI zvládne i dělat vědecké objevy. Některé vědce to naopak zděsilo, neboť i oni se začali cítit ohroženi, ostatně já trochu taky. Celkem nepochybuju, že AI může přijít na některé objevy kombinací současných znalostí. Jenže, jak známe z historie, každá technologie má své limity.

Já na takové limity AI narážím velmi často. Například, když zkoumám interpretace kvantové mechaniky. Loni jsme si mohli přečíst v prestižním vědeckém časopise Nature, že jen 20% fyziků, kteří zkoumají výklady kvantové mechaniky, si myslí, že obvyklý tzv. Kodaňský výklad je správný. Na českých universitách i v médiích je ale tento výklad prakticky jediný a skoro nikdo nepochybuje o jeho správnosti. A to přesto, že je tento výklad neúplný a logicky chybný, čemuž se už vysmál v roce 1935 Schrödinger svojí živo-mrtvou kočkou. Jeden český vědecký časopis třeba odmítl můj článek o kvantové mechanice proto, že jsem ukázal, podobně jako Schrödinger, v čem je tzv. kvantová superpozice nesmyslná.

To by tak nevadilo, protože jsou i časopisy jiných zemí, že. Ale když kvantovou mechaniku diskutuju se „zahraniční“ AI, dost sveřepě podobné nesmysly obhajuje a nevadí ji, že jsou logicky rozporné. A to existuje logicky čisté a prosté řešení už od roku 1952, nebo vlastně mnohem dříve. Aby bylo zřetelné, co se myslí logickou rozporností, tak třeba je to trojúhelník se dvěma vrcholy nebo, máme-li se držet Russellovy klasiky, pak kulatý čtverec. Takové nesmysly AI nevadí, jsou-li široce přijímány, a chová se tak, jako by takové věci skutečně existovaly. AI prostě neumí logicky uvažovat, její základ je hledat nejpravděpodobnější pokračování věty. A protože je Kodaňská interpretace všudypřítomná a přijímána, tak opakuje i tento nesmysl. Nejsem nějaký expert na AI, jsem jen její uživatel, ale jestli a dokud je její podstata pravděpodobnostní, nebude umět překážející balvan Kodaňského výkladu odvalit z cesty, protože nemyslí logicky.

Obrázek vytvořen Chatem GPT 5.4

Stejný boj jsem sváděl s AI v případě výkladu rovnice E=mc2, který jsem použil ve své Ph.D. disertaci, kde jsem došel ke stejnému závěru jako nositel Nobelovy ceny Ketrle. Ovšem tento logicky konzistentní výklad je jiný než mainstreamový, který podivně tvrdí, že foton nemá hmotnost a že se hmotnost může přeměnit v energii a naopak. Totéž zažijete, když snažíte vysvětlit, že představa aktuálního nekonečna je rozporná, jak dokázal už Galileo, tedy že nic takového jako nekonečno v matematice neexistuje.

Možná, že přijde taková AI, která bude umět logicky myslet, ale zatím to, zdá se, neumí. To je zásadní limit dnešní AI. A nepřesvědčuje mě emoční nadšení ve stylu AI zvládne nakonec vše. Jsou to super emoce, které táhnou vývoj vpřed, ale racionální úvaha to moc není, aby nám dala reálný pohled na věc.

Ano, časem skoro určitě přijdeme na logickou AI, ale je tu i tak jeden velký limit, i kdyby AI byla „bez limitu“ s „nekonečným“ IQ. To je ostatně v každou konkrétní historickou chvíli nemožné, kvůli omezení konečnou energií, konečnou pamětí a konečnou rychlostí operací. Tím limitem může být lidské pochopení. I když vymyslí AI něco geniálního nad lidské schopnosti, my nebudeme schopni to použít, pokud to nepochopíme. Zatím totiž držíme otěže my a nebudeme je chtít pustit, takže vše musí jít přes nás, přes naše pochopení. Proto jsme také vypnuli dvě AI, které spolu začnou mluvit jazykem, které nerozumíme. Zatím nám AI spíše radí a vykonává to, co chceme, a my to kontrolujeme – zatím. Když nám AI agent smaže maily, které jsme nechtěli, je z toho celosvětová aféra.

AI s nekonečnou inteligencí, vytvořeno Chatem GPT 5.3

OK, představme si, že se AI osamostatní a začne objevovat věci, které nebudeme chápat. Pro nás to ale žádné objevy ani nebudou, protože budou pro nás neviditelné. Buďto si nad AI udržíme kontrolu, ale pak budou vznikat pro nás neviditelné objevy, které nám budou celkem k ničemu. Nebo si ji neudržíme, a pak budou tyto objevy stále pro nás neviditelné, ale uvidíme alespoň jejich důsledky.

V každém případě se i ty nejgeniálnější lidské mozky octnou v podobně nechápající roli, v jaké je dnes nějaký člověk, který zvládl jen základní vzdělání a nechápe mnoho ze současného světa a proto si vymýšlí to, co se v minulosti nazývá mýty a dnes konspiračními teoriemi. Budou to náhradní, povrchní a nesprávné výklady toho, co se děje, neboť naše mozečky na správné chápání nebudou stačit.

Budeme pak muset zapracovat na vlastním biologickém IQ, třeba vylepšeným silikonově. Ale trochu pochybuju, že náš zastaralý biologický materiál bude dlouho schopen držet krok s čistě silikonovými „mozky“, zejména později kvantovými. Biologický materiál může být svými poněkud nevhodnými vlastnostmi spíše koulí na noze. Podobně jako nám biologická konstrukce neumožňuje pohybovat se rychleji než nějakých 40 km/h nebo pobývat ve vzduchoprázdnu, apod.