AI: Nedůvěřuji ti. Poradíš mi, jak na hypotéku a na sex?

Nový průzkum mezi 1 500 respondenty v USA a Británii ukázal fascinující stav moderní civilizace. Lidstvo vstoupilo do éry, kdy už nevěří ani vlastním institucím, ani médiím, ani sousedovi přes plot.

Zato každý druhý ochotně vloží své zdravotní starosti, partnerskou krizi a finanční plány do statistického papouška běžícího na serverech vzdálených tisíce kilometrů.A pak se tváří překvapeně, ukřivěně, nadšeně… to podle nálady.Celých 83,9 % aktivních uživatelů AI přiznává nejméně dvě vážné obavy týkající se chatbotů. Jinými slovy: skoro devět z deseti lidí sedá do auta, o kterém současně tvrdí, že mu podezřele skřípe volant, brzdy tahají doprava a motor občas vygeneruje alternativní realitu. Všichni to vnímají, všichni ale stejně do tohoto křápu lezou.Ještě krásnější je údaj, že 80,9 % uživatelů někdy pociťuje nejistotu, zda AI odpovídá správně, a 42,4 % přímo říká, že nepozná, zda je odpověď pravdivá. To je vlastně docela příznivá odpověď. Méně než polovina má alespoň pochybnost… Což ovšem neznamená, že s tím něco dělají… Normální člověk by si mohl myslet, že v takové situaci začne odpovědi pečlivě ověřovat.SchemaOmyl.35,5 % lidí přiznává, že sebevědomě znějící odpovědi kontrolují zřídka nebo vůbec.V překladu: „Nemám tušení, zda je to pravda. Ale znělo to dostatečně akademicky.“Takhle to už mimochodem vedeme v lidské civilizaci už od středověku. Panečku, těch teorií, vizí a kultů… těch už bylo…

Všichni cítí odpovědnost. Nikdo nemá čas. Skoro komický je rozdíl mezi morálkou a praxí.

89,5 % respondentů tvrdí, že odpovědnost za kontrolu odpovědí leží na nich.Krásné, úžasné a pravdivé.Jenže 70,1 % zároveň kontroluje odpovědi jen někdy, zřídka nebo nikdy.Je to jako kdyby:

• 90 % řidičů tvrdilo, že bezpečnost provozu stojí na nich,
• ale 70 % z nich jezdilo poslepu podle navigace,
• protože „ta šipka vypadala důvěryhodně“.

Nejde ani o lenost. 37,5 % lidí říká, že nemají vůči čemu odpověď ověřit.Což je vlastně nejzajímavější číslo celého průzkumu.Ve světě internetu jsme se dostali do situace, kdy máme nekonečno zdrojů informací, ale stále méně autorit, kterým bychom věřili. Člověk tedy ověřuje AI pomocí Googlu, Google pomocí Redditu, Reddit pomocí Facebooku a Facebook pomocí další AI.Vzniká epistemologický kruháč bez výjezdu.

„Zní to správně“

Absolutním vítězem průzkumu je ovšem údaj:47,3 % lidí přestane přemýšlet ve chvíli, kdy odpověď zní správně.Téměř polovina populace tedy používá kritické myšlení podobně jako antivir z roku 2004.Kontrola probíhá následovně:

1. Přečíst odpověď.
2. Mít subjektivní pocit.
3. Hotovo.

Descartes kdysi napsal:Myslím, tedy jsem.Rok 2026 přináší aktualizaci:Znělo to přesvědčivě, tedy je to pravda.

AI ověřuje AI

Další perla.35,3 % respondentů používá AI k ověřování odpovědí jiné AI.To je statistický ekvivalent situace, kdy:

• opilý cestující kontroluje střízlivost druhého opilého cestujícího,
• přičemž oba sedí ve stejném autobusu.

Výsledek může být povzbudivý, nikoliv však nutně správný.

Čím víc AI používáte, tím méně ji kontrolujete

Mezi lidmi, kteří AI využívají jen pro omezené úlohy, pravidelně ověřuje odpovědi 36,8 %.Mezi těmi, kteří ji používají „na všechno“, už jen 24,7 %.To je nádherný paradox.Technologie vznikla jako pomocník. Poté se stala poradcem. Následně expertem.A nakonec se proměnila v autoritu, kterou nikdo nevolil, nikdo nezná a kterou téměř nikdo nekontroluje.

Soukromí? Ano. Prosím ještě jednu radu o manželství.

Nejpůsobivější číslo je možná jiné.33,9 % uživatelů využívá AI pro rady týkající se zdraví, financí nebo vztahů.Tedy právě pro oblasti, které by většina lidí nesdělila:

• sousedovi,
• účetní,
• náhodnému člověku v hospodě,
• ani vlastnímu partnerovi.

Ovšem chatbotovi? Bez problému.Ve stejné studii přitom respondenti opakovaně uvádějí obavy o soukromí, ukládání dat a netransparentnost. Je to podobné, jako kdyby člověk prohlásil:„Strašně se bojím zlodějů.“A potom zveřejnil občanský průkaz, rodné číslo a PIN na Instagramu s hashtagem #autenticita.

Průzkum ve skutečnosti neukazuje problém umělé inteligence.Ukazuje problém přirozené inteligence.Lidé nevěří AI. Lidé si nejsou jisti AI. Lidé vědí, že by měli AI kontrolovat.Lidé přiznávají, že AI může chybovat.

A přesto ji používají na zdraví, peníze, vztahy i práci.Jinými slovy:

Umělá inteligence možná nemá důvěru společnosti. Jen získala něco mnohem cennějšího. Zvyk.

A historie opakovaně ukazuje, že lidé nepřizpůsobují své návyky tomu, čemu věří.Naopak. Po čase začnou věřit tomu, co používají každý den.

Zdroj gemini