Na prahu nové reality – jak neztratit půdu pod nohama I.

Lidé kdesi na druhé straně online prostoru lžou, manipulují, vydávají účelové zprávy dříve jen v textu, dnes i v pohybu i živých barvách. A AIčko je pomáhá doložit pseudovědeckými notickami... Můžeme to vůbec nějak zvládnout?

Nedělní odpoledne, útulný obývák, vůně kávy a štrůdlu. Na pozadí špičkujících politiků na obrazovce probíhá taky rodinná diskuze. Ta ovšem utichne, když někdo z přítomných vytáhne telefon. „Podívej se na tohle – kočka vytáhla mambu chlapovi přímo z postele, a dokonce v Havlíčkově Brodě!“ Ukazuje vertikální video, které vypadá tak skutečně, že se divíte, proč o tom neinformovala žádná televize. Taková událost? Mamba na Vysočině? V tu chvíli vás napadne otázka, která se stává novým refrénem naší doby: „Je to pravda nebo zase jen kec?“

A tady tu mambu máme

Tento okamžik pochybování symbolizuje zlom, v němž se nachází celá digitální společnost. Žijeme v době, kdy hranice mezi realitou a simulací se stírá rychleji, než stačíme mrknout okem. A právě v tomto prostoru mezi pravdou a fikcí se odehrává jeden z nejzásadnějších bojů o naše vnímání světa – boj, jehož součástí jsou nejen syntetická videa, ale i tradiční formy manipulací jako řetězové emaily a falešné recenze.

V tomto světle pak musíme poděkovat těm, kteří o svých názorech, byť zcela neortodoxních a směřujících k prosazení jedné pravdy, protože alespoň nepředstírají, že jsou někdo jiný a chtějí něco jiného... A umělka, když se s ní člověk naučí komunikovat, vyargumentuje doslova všechno. Story (nic jiného to není) je argumentačně bohatá, ale když dojde na fakta, tak se nám blogeři zagrhávají, odmlčují, případně odvádí pozornost jinak.

Celé to ovšem k daleko závažnějším důsledkům ... ekonomicky řečeno... k úrokům ze lži.

„Jsme zaplaveni šmejdem od šmejdů.“ Parafrázuji jednu větu z jedné studie. Tato povodeň syntetického i tradičně manipulovaného obsahu má však překvapivý vedlejší efekt – nejenže nás nutí věřit falešným videím a zprávám, ale zároveň podkopává naši důvěru v autentické záznamy a informace. Odborníci tomuto jevu říkají „lhářská dividenda“.

Úřady zveřejní autentické video z nějakého policejního zásahu jako důkaz. Obhajoba však může s odkazem na všudypřítomné podvrhy zpochybnit jeho pravost. Soudce a porota, zvyklí na existenci dokonalých padělků a mediálních manipulací, začnou pochybovat i o autentických záznamech. Tím se otevírá nebezpečný prostor pro popírání nepohodlné reality.

Investigativní novinářka varuje: „Není to tak, že by všichni věřili falešnému videu, ale lidé nebudou věřit skutečným videím.“ Tato slova odhalují hlubší problém než pouhé šíření dezinformací. Jde o systematickou erozi důvěry v dokumentární povahu obrazu i psaného slova jako takového.

Emoce jako zbraň: proč jsme zranitelní

Naše psychologické nastavení předurčuje naší zranitelnost k manipulativnímu obsahu. Videa a zprávy, které vyvolávají silné emoce: vztek, strach, pobavení, pocit výjimečnosti či naléhavosti: jsou násobně více sdíleny. Umělá inteligence i lidský tvůrce dezinformací se této lidské vlastnosti dokonale přizpůsobili. Generují obsah, který cílí přímo na naše citová centra, obchází racionální uvažování a vytváří okamžité, neuvážené reakce. Přímo ukázkovým příkladem je ten, co jsem popsal ve svém článku – video facebookového publicisty o nevhodné knize prý pro děti..jen proto, že se prodávala na Albatrosu.

Právě na tomto principu fungovaly po desetiletí řetězové emaily – zprávy šířené masově, které často obsahovaly výhrůžky, falešné nabídky nebo konspirační teorie. Stejný mechanismus přežívá i dnes v nových digitálních podobách. Rozdíl je pouze v rychlosti a dosahu šíření.

Paradoxně, stejně jako jsme náchylní věřit obsahu, který odpovídá našim emocím, jsme také nakloněni zpochybnit informace, které odporují našemu přesvědčení. Tento obranný mechanismus, užitečný v osobních vztazích, se v digitálním světě stává zbraní proti poznání. Skutečné události, které vyvracejí naše představy o světě, snadno odmítneme jako „pravděpodobně podvržené či alespoň zmanipulované.

Ekonomie pozornosti a finanční motivace

Problém manipulací online má výrazný ekonomický rozměr. Tvůrci virálního obsahu – ať už jde o AI generovaná videa, podvodné recenze nebo dezinformační články často mají finanční motivaci přimět vás lajkovat, komentovat a sdílet, protože to často vede k tomu, že vydělají více peněz. Jo, jo, prachy i onlinu vládnou...

Manipulace online recenze jsou zřetelně motivovány účelem finančního zisku. Tyto metody, ačkoliv technologicky jednodušší než AI generovaná videa, pracují se stejným principem: využívají nedostatků digitálních platforem a lidské psychologie k vytváření iluze popularity, kvality nebo důvěryhodnosti.

Definice: Ekonomie pozornosti je odvětví ekonomie, které zkoumá, jak se pozornost lidí stává komoditou. V prostředí, kde je nabídka informací prakticky neomezená, je vzácným zdrojem právě lidská schopnost soustředit se.

Princip: Produkty a služby (zejména digitální obsah) jsou často dostupné zdarma nebo za nízkou cenu. Hodnota se proto přesouvá k tomu, kdo dokáže získat a udržet pozornost uživatele.

Anglický termín: Attention economy – hojně používaný v akademických i praktických diskusích o médiích, reklamě a digitálních platformách.

V této ekonomii pozornosti je pravda často obětována ve prospěch se zapojení. Algoritmy sociálních sítí odměňují rychlost a kontroverzi, nikoli přesnost a ověření. Takže i ty genetické bludy, které AIčko zabalilo do globálních věd, docela dobře projdou... Díky všem, co ještě mají jistou hrdost a nevymění uštěpačné poznámky blogera a pořád se drží vlastního názoru.

V tomto prostředí se šíření neověřeného (případně totálně účelově přeformulovaného) obsahu stává racionální strategií – získáte pozornost dříve, než někdo stihne obsah ověřit. Tím se vytváří začarovaný kruh: čím více neověřeného obsahu koluje, tím menší máme kapacitu jej kriticky zhodnotit, což vede k šíření dalšího neověřeného obsahu.

Schema Hausner gamma AI