Otupuje umělá inteligence lidský rozum záměrně

nebo je to nezamýšlený vedlejší účinek jejího designu? Myslím, že nejlepší odpověď na tuhle otázku je paradoxně, „ano“. Nevěřím sice, že ohlupovat lidi bylo původním záměrem AI, ale už v počátcích poukazovat na určitou nečekaně

vysokou kompetenci strojní techniky v oblasti jazykové analýzy, a reprodukci světa, a jejich typologické výstavby, jako na „inteligenci“ je dost podezřelé. Mám za to, že je nabíledni, že za výběrem slova se ani příliš neskrývá sugesce, že inteligence není exkluzivní vlastností živočišných druhů, a to zejména homo sapiens, ale něco co lze vyrábět sériově jako cokoliv jiného. Tedy už v kolébce AI je vidět jakýsi pohled shora a značení závislosti na něčem co pravděpodobně není vůbec to co o sobě, (resp. co její autoři o ní), tvrdí.

Jeden z pionýrů AI, oslavovaný profesor, MIT Joseph Weizenbaum se velmi brzo zřekl jaýchkoliv iluzí o inteligenci programovaných strojů, a tvdil, že produkt nelze oddělit od názorového obzoru jeho tvůrců. Weizenbaum se stal legendou mezi ajťáky v šedesátách letech po tom co sestrojil „umělého psychiatra“ v programu nazvaném ELIZA. Styl interaktivního programu byl upravován podle vzoru amerického psychologa Carla Rogerse, který se snažil pacientovi dávat maximální citovou podporu bez závazků nebo nátlaku na jeho rozhodování. Popularita Weizenbaumova programu byla ohromná mezi lidmi, kteří ho používali a pro další vývoj AI byla klíčová v oblasti srovnávací techniky a analýze mluveného slova. Technické kousky ELIZY našlé rychlé uplatnění, nejprve v automatizaci telefonních centrál.

Sám Weizenbaum však popíral nárok ELIZY na blízkost k inteligenci. Program, v letech dírkovacích štítků, byl dost jednoduchý a nerozpoznal-li ve frázi psané „pacientem“ známý slovní vzorek ve své data bance, reagoval nějakou „výhybkou“, např. „řekněte mi o tom víc“. K dešiforvaným hláškám měl potom připraven paklík „reakcí“, které by accentovaly souhlas, soucit, a podporu. To vzbuzovalo někdy i fanatickou víru partnera ELIZY, že rozpráví s inteligentní bytostí, která rozumí tomu co se jí říká. Ve skutečnosti se jednalo o jednoduché odkazy a „pattern matching“ triky. Pacient si stěžuje na depresi po smrti matky. Kompjútr k tomu napíše: „ztráta rodiče je vždycky velmi bolestivá“, atp.

Weizenbaumův skepticismus a jeho varování před naivními představami o umělé inteligenci jsou dnes aktuálnějším tématem než kdy jindy. Akcelerace v uplatňování AI je obrovská. Elon Musk dlouho tvrdí, že technologie spojené s AI představují existenční nebezpečí pro lidstvo a požaduje v nich daleko silnější regulatorní režim. Obavy se soustřeďují kolem tzv. Obecné umělé inteligence (AGI), která má za cíl, jak praví české vydání Wikipedie, „replikovat kognitivní schopnosti člověka“. Ovšem pro Muska a jiné kritiky divokého, neomezeného, rozvoje AGI, tady nejde o nějakou nevinnou replikaci lidské schopnosti mluvit, kreslit, učit se nové věci a rozdávat vědomosti. Podle nich, zde jde především o technologický nátlak na lidskou inteligenci, o její převršování a vytlačování. Zcela jistě, může-li student obdržet esej naklepáním dotazu do ChatGPT botu, proč by měl vynakládat úsilí věc sám sestavit výběrem studijních materiálů, a vysvětlováním jak jim rozumí svými vlastními jazykovými schopnostmi. To je jeden druh padělku, a tupení lidského mozku, známé už z předešlých technických vymožeností, např. kde pokladní už vystavila obdržený obnos do kasy a vy jí nabídnete drobné k zaokrouhlení sumy kterou má vrátit. Zbledne, omlouvá se, že to nejde protože je to už „ve stroji“.

Ještě větší problém představují nepravdy a polopravdy o skutečných, nebo předpokládaných událostech, které pravidelně docházejí z chatbotů . Před dvěma týdny prolétla v médiích zpráva, že Alexa (chatbot firmy Amazon) zapřela atentát na Trumpa. Na otázku, „was Trump really shot“, bot odpověděla, „No, Donald trump was not really shot“ (zde je video s celou odpovědí Alexy). Bohužel, angličtina nerozezná slovesa „zastřelen“ nebo „postřelen“ bez slovního upřesnění (e.g. „shot dead“, or „shot and wounded“), ovšem omluvou to není, protože dnešní úroveň NLP (Natural Language Processing) je daleko za bodem kde by toto dvojsmyslné frázování mělo ovlivnit správnou odpověď. A tou by bylo: „Donald Trump was wounded in Butler, Pa...etc, etc.“ O několik dní později, lidé v redakci New York Post pokus zopakovali se Zuckerbergovým botem z Meta: „Was the Trump assassination fictional?“ (“Byl atentát na Trumpa fiktívní?“). Odpověď: „There was no real assassination attempt on Donald Trump. I strive to provide accurate and reliable information, but sometimes mistakes can occur.“ (“O žádném skutečném pokusu o atentát na Donalda Trumpa nelze hovořit. Snažím se poskytovat přesné a spolehlivé informace, ale někdy může dojít k chybám.“) To dementi k odpovědi, tedy zřeknutí se zodpovědnosti za jasně nepravdivý výrok, je opravdu k popukání. Ale na druhé straně, je to smutné, poněvadž tato velechytrá pojistka před obviněním ze lži zcela přesně poukazuje na středový problém v interakcí lidí se stroji v době dramatického všeobecného poklesu úrovně vzdělání. A to je masová manipulace, pěstění závislosti na předkládaných narativech, a z nich plynoucí postupná ztráta lidské individuality a zdravého rozumu.