Lesk a bída ...AI ...už taky na ní došlo...

Chcete vědět, proč AI nikdy nevymyslí penicilín, ale zato vám s jistotou uvaří chutný lektvar z mochomůrky? Připravte se na nejméně pět lesklých bíd, které rozloží vaší víru v digitální zázrak na prvočísla.

Zatímco jedni ji vzývají jako digitální spasitelku, druzí ji zatracují jako algoritmickou šarlatánku. A mezi nimi se potácí realisté, kteří tuší, že pod lesklým povrchem se skrývá pěkná bída. AI totiž umí všechno… kromě moudrosti, kontextu, a občas i obyčejného čtení hodin.

Chcete vědět, proč AI nikdy nevymyslí penicilín, ale zato vám s jistotou odcituje neexistující studii? Zjistěte, proč se učitelé potí, studenti stagnují a AI se učí hlavně na vlastních bludech.

Ostatně jako ve všem, AI rozděluje společnost přinejmenším na dvě oponentské skupiny... pak tu máme neutrální mírné pochybovače... a celou řadu nevyhraněných... Jedni ji přímo vzývají a nechápou, jak ti druzí mohou nad tak dokonalými frázemi ohrnovat nos a ještě pochybovat o správnosti. Druzí pro změnu všechno to, co AI vyplodí, hned zatracují s tím, že je to stejně výmysl a musím všechno ověřit, tudíž to ani žádné ušetření času ani nebude. A vlastně mají obě strany pravdu. A mezitím balancují realisté, a pro ně je to ještě horší. Jednou tak...podruhé onak... A AI tomu sama o sobě rozhodně nepřispívá...

Všechny tyto pocity, postoje vlastně vycházejí z obecné představy, co ta generativní AI vlastně je. Ai se prostě leskne, i když uvnitř je to někdy pěkná bída... no, teď mne hned napadlo politické srovnání, ale raději v těchto nactiutrhačských poznámkách pokračovat nebudu...

První lesklá bída: Čím více dat a velikost paměti, tím více rozumu

AI zpracovává a ukládá obrovská množství dat, ale postrádá skutečnou moudrost, úsudek a kritické myšlení, které jsou vlastní lidské inteligenci. Koneckonců toto tvrzení neplatí ani lidské myšlení. Když k tomu přidáme příslovečnou schopnost člověka myslet na přeskáčku, přecházet plynule z jednoho kontextu do druhého, tak nám musí být jasné, že AI prostě penicilín nevymyslí. „Náhoda přeje připraveným,“ je onen známý Flemingův citát vztahující se k zapadlé plísni do Petriho misky s bakteriemi. Něčeho takového se u AI vážně nedočkáme. Vyhodnotit data, to je jiná, ale přijít sama o sobě na průřez obory ...tak daleko jsme nepostoupili...a ještě dlouho ani nepostoupíme...

Druhá lesklá bída: Když AI čte text, musí chápat realitu.

Ačkoli AI spolyká terabyty písmen a vyhodnocuje je statisticky a komparačně, pro správné pochopení reality jí chybí zásadní propojení abstraktních symbolů s fyzickou realitou a prožitou zkušeností. Ona propast je mnohem hlubší než schopnost člověka se vyjadřovat v II. signální soustavě, která v abstrakci slov chybí ostatním živým tvorům. AI v tomto ohledu trpí známou duševní chorobou afázií, ale naopak. Zatímco lidský pacient s afázií rozumí kontextu a souvislostem, tak to plechové monstrum sice řekně cokoli, aniž by vůbec vědělo, co to znamená... Mochomůrka je jedovatá až tehdy, kdy se uživatel podiví, že recept, který AI vymyslela, je poněkud jedovatý v tom pravém smyslu slova. AI nemá vlastní vědomí ani emoce, ale dokáže generovat a analyzovat text velmi rychle. Zatímco člověk s afázií může mít potíže najít správná slova, AI může „najít“ správná slova na základě pravděpodobnosti, aniž by jim skutečně rozuměla.

Třetí lesklá bída: AI přece tvoří plynulé eseje, tak musí rozumět kontextu.

Když vyjdeme z předchozího odstavce, odpověď je jasná. AI analyzuje text bez přímé zkušenosti , pouze srovnává data a predikuje jaké další slovo se nejlépe hodí za to předcházející. Statistická frekvence slov však nemusí odpovídat reálnému stavu, datům, ba i s obyčejným čtením hodin má AI docela problémy. Některé modely vykazují až 50% věcnou chybovost, ačkoli je text přesvědčivý, doplněný odkazy na neexistující zdroje. Boj proti halucinacím (což je sice terminus technicus) vůbec neodpovídá podstatě. V případě AI jsou to nesmysly, lži a manipulace a mnohdy společenské a do algoritmu úmyslně vkládané a často ideologií řízené předsudky . A bohužel neplatí naše očekávání, že se tento trend bude zlepšovat …spíše naopak. AI se dnes neučí tak často na zdrojích a autorskými právy (soudní spory běží a mohlo by se to majitelům AI hodně prodražit a nejspíš také prodraží), ale teď nejčastěji na svých vlastních textech. Tak se nám ty halucinace hezky pomnoží. Může z bludů vzniknou něco jiného než zase jen blud?

Čtvrtá lesklá bída: AI zásadně nelže a má vždy pravdu.

Mladá generace, možná díky rychlému běhu událostí, má velmi často tendenci těmto zdrojům informací důvěřovat. Procesy vedoucí k ověření informace jsou zdlouhavé a vyžadují jisté úsilí. Je mnohem snazší předkládaná data vzít, jak jsou a nehledat v nich zapeklitosti. Některé nesmysly sice vidíme na první pohled, ale řádně odcitovaný neexistující zdroj se zdánlivě validním sdělením už takový problém představuje. Soudci, oklamaní obhájci, vědecké časopisy publikující neověřené informace... podobných příkladů bychom našli velmi mnoho. Podle jednoho průzkumu až 80% populace věří všemu a jen 8% si data ověřuje. To nás čekají pěkné politické časy...

Pátá lesklá bída: Informace = inteligence

Přestože AI obsahuje miliardy informací, nedokáže je bez lidského vedení a kontextu smysluplně propojit do koherentních závěrů nebo inovativních myšlenek. Stávající studie konstatují, že žáci s AI mají sice lepší výsledky v krátkodobých a zaškrtávacích testech, ale z dlouhodobého hlediska jsou jejich výsledky víc než žalostné. Ačkoli lidská inteligence je ve své podstatě dána především genetickými předpoklady (možná), zdá se, že ve světle těchto výzkumů prostřednictvím AI může nastat individuální stagnace vědomostí. Takovému stavu je ovšem nutno zásadně předcházet. To pranic nemění na obrovském humbuku kolem AI, která má prý tendenci změnit školství... k některým myšlenkám se ještě vrátím...ale.. všechny ty bídy se vlastně zhmotňují v pochybnostech učitelské veřejnosti o budoucnosti vzdělávání.

Autenticita výuky

Kantoři se obávají, že AI nástroje mohou narušit přirozený proces učení a omezit tolik potřebný osobní přístup k jednotlivým žákům. V přehnané zdvořilosti až patolízalství umělé inteligence se ztratí to skutečné vzdělávací jádro.

Chybovost

Studie uvádějí, že až 50-60 % odpovědí AI může být z nějakého důvodu vadných. Nemusí jít o čisté nesmysly, ale také logicky vygenerované odpovědi doložené odkazy do neexistujících studií či vědeckých článků. Je velmi obtížné rozlišit skutečnost. Je tedy nutno ověřovat prakticky každičkou odpověď AI. Je pak opravdu chatbot úsporou času?

Dopady na kritické myšlení

Učitelé vyjadřují oprávněné obavy, že studenti by mohli přestat rozvíjet vlastní analytické schopnosti a postupně se stát závislými na AI řešeních. Chybovost i vlastní logika jedince pak dostávají nutně na frak.

Etické a bezpečnostní otázky

Roste znepokojení ohledně ochrany citlivých osobních údajů studentů a potenciálně neetického využití AI technologií v komplexním vzdělávacím procesu. Takových příkladů včetně kyberšikany vidíme na sociálních sítích nespočet. O kontradikci ochrany a soukromí si zas povíme něco příště.