Den, kdy defíni začali testovat vědce

Systém generování obrázků Google Gemini, údajně s citem pro ohleduplnost a politickou korektnost, vytvořil několik obrázků černochů a jiných neárijských lidských ras v historických uniformách německých nacistů.

Inu, chybička se vloudí, řeklo by se. Špatné učení se na špatných informacích. „Toto je krásný příklad informatického principu `garbage in, garbage out`, čili že nacpete-li do stroje pofiderní vstupy, nemůžete dostat kvalitní výstup, leda snad čirou náhodou,“ komentoval událost Marian Kechlibar. „Do jisté míry musíte ten ubohý stroj litovat, protože jeho snaha co nejvěrněji zrcadlit pokřivenou lidskou ideologii je až dojemná. Počítače jsou přece jenom matematické podstaty, tudíž založené na tvrdé logice, a vecpat do nich tak nekonzistentní a lunatické učení, jako je ten moderní progresivní neo-rasismus, je úkol pro (zajisté nebinárního) Sisyfa. Doublethink, který je spoustě lidí tak přirozený, se velmi špatně algoritmizuje. Pak z toho vylézá to, co vylézá.“

Stroje, které jsou dnes popisovány jako umělá inteligence, jsou zadáním svých tvůrců a tréninkového materiálu. „Kopírují jejich předsudky,“ píše Marek Hudema. „Jenže stroje jsou stroje, nevědí, kdy svůj přístup už přehnaly, nemají lidský cit, tak ta ohleduplnost. Snaha o jejich ideologickou či politickou indoktrinaci tak vede k tomu, že podobně jako Gemini nakonec skončí ve stavu, který bychom popsali jako radikál, extremista či hloupý dezolát.“

Jenže nad popisovanou událostí nelze mávnout rukou, a už vůbec ne s pobaveným úsměvem. Je docela dobře možné, že se nejedná o chybu, ale o záměrný test. Ne test umělé inteligence (AI). Těmi zkoušenými jsme my, lidé.

Následující text není tvrzení, jen domněnka. Účelem předem plánovaného experimentu je určit, do jaké míry je ještě veřejně vlivná generace uživatelů, která má paměť, zkušenosti, předsudky a je schopna dávat si informace do souvislostí. Do jaké míry sahá vliv těchto lidí v rozhodovacích sférách (veřejné mínění, politika, byznys, věda). Kam až sahají jejich schopnosti, vědomosti a ochota k ovládání stále složitějších výpočetních strojů, důmyslně konstruovaných a programovaných ke zvyšování zábavy, her a vytváření návyku, namísto kancelářské práce a získávání informací. A naopak, kam už dospěla generace jiná, která je ochotna přijmout pravdy jiných autorit, pokud možno elektronických, autorit výsledků vyhledávání, internetových encyklopedií a většinových názorů sociálních skupin, pro něž neexistuje pohlaví, národnost je buržoazní přežitek, oxid uhličitý hubí život na planetě a demokracie je bílý zločin na černošském obyvatelstvu?

Není těžko představitelné, že ona „chybující“ umělá inteligence, nebo nějaká jiná, už sleduje, shromažďuje a vyhodnocuje reakce na vypuštěné obrázky černošských nacistů. A vyhodnocuje je podle demografických údajů o uživatelích, jejich věku, spotřebitelských návycích, vzdělání, místě bydliště, příjmech. 

Kdo na tomto výzkumu má zájem? Každý, komu plastická masa usnadní a zlevní přístup k jeho cílům. Ať je to posílení moci, získání území, vyšší zisky.

Když dávno jsem četl seriózní článek ze seriózního zdroje o seriózním vědeckém výzkumu delfínů. V jednom věhlasném delfináriu vědci zkoumali delfíny tak dlouho, až zjistili, že delfíni testují je, tedy ty vědce. Zvířata schválně dělala chyby v naučených cvicích, chovala se jinak, než by měla, a sledovala, jak na to zareagují ti lidé.

Tak schválně. Za nějakou dobu, řekněme dnů či týdnů, dejme si do nějakého inteligentního vyhledávače heslo „konspirační teorie“. Třeba se vyhledá i tento článek…?