Kdo lže, když AI halucinuje (tedy) spíš kecá

Pan Vejsada ve svém textu trefně popsal jeden z paradoxů dneška: rádi se pohoršujeme nad tím, jak si umělá inteligence vymýšlí a „halucinuje“, zatímco my lidé děláme se svými vlastními vzpomínkami a realitou úplně to samé. A basta

Co se ale stane, když se tyto dva světy protnou? Autor na svém blogu použije přesvědčivý nesmysl vygenerovaný umělou inteligencí a rovnou ho bez ověření zkopíruje. A ještě k ní přídá komentář. Kdo v tu chvíli lže? Stroj, nebo člověk?
Stroj nemá svědomí, člověk má alibi
Odpověď je vlastně docela jednoduchá. Umělá inteligence lhát nedokáže. Nemá vědomí, záměr ani morální kompas. Její „halucinace“ je pouhý technický defekt: asi jako když se porouchá kalkulačka a vyhodí špatný výsledek. Kalkulačka vám nelže, jen špatně funguje. AI dodává pouze surový materiál, shluk slov poskládaných podle pravděpodobnosti.

Skutečnou lží se tento text stává až v momentě, kdy do hry vstoupí člověk. Lež totiž vyžaduje vědomý akt nebo alespoň vědomou nedbalost. Jakmile autor text vezme a vtiskne mu punc vlastní důvěryhodnosti tím, že ho vypustí do světa, stává se tvůrcem lži on sám.

Pohodlná výmluva na technologii
Tady se vracíme k jádru Vejsadovy úvahy o tom, jak si rádi přikrášlujeme realitu, abychom se sebou mohli v klidu žít. Z neochoty hledat pravdu se totiž díky AI stává dokonalé technologické alibi: „To já ne, to napsala umělá inteligence, vždyť víte, jak halucinuje!“
Ve skutečnosti jde jen o rafinovaný sebeklam a outsourcování vlastní lenosti na algoritmus. Když halucinuje stroj, chceme ho okamžitě ladit a opravovat. Ale když halucinujeme my a vydáváme strojové nesmysly za svá fakta, raději se snažíme opravit realitu kolem nás. Zklamání čtenáře pak není selháním technologie. Je to zkrátka selhání člověka, který vyměnil autorskou integritu za pohodlnou výmluvu. Pane Vejsado, děkuji za váš podnětný blog.