AI nemá ambici ovládnout svět. Problém je, že člověk ano

Prohrát s kosmickou inteligencí je shakespearovská tragédie, prohrát s kalkulačkou pouhý trapas. Proč jsme si z křemíku vyrobili poloboha a jak snadno prodáváme vlastní úsudek za potvrzení ega?

Když se Lucie Výborná ve svém pořadu zeptala pozvaného experta na umělou inteligenci, která profese je technologií ohrožena nejvíc, dostala okamžitou odpověď: „Vaše.“ Na logickou otázku, kdo je tedy v bezpečí, přišlo suché: „Kadeřník.“

Kdyby robot vzal práci kadeřníkovi, nikdo by o křemíkovém vědomí nezačal básnit. Řeklo by se, že technici sestrojili mimořádně přesné mechanické nůžky. Jenže Lucie Výborná je špička ve svém oboru. Třicet let poctivého řemesla, dar pohotové reakce, schopnost vést dialog, autorita a prestiž. A najednou přijde zjištění, že tohle všechno dokáže během pár sekund nahradit statistický model.

Jak si má špičkový profesionál přiznat, že jeho celoživotní mistrovství sfoukl jen o něco složitější vzorec v Excelu? Nijak. Ego to zkrátka neunese. A tak jsme si raději z křemíku bleskově vyrobili myslícího poloboha. Prohrát s novou formou kosmické inteligence je totiž shakespearovská tragédie. Prohrát s rychlou kalkulačkou je pouhý společenský trapas.

Pravidlo z počátků programování přitom platí beze změny: počítač je pořád jenom pekelně rychlý blbec. Dnes jsme ho zrychlili a nakrmili takovým objemem dat, až kdekdo podlehl iluzi, že dráty začaly přemýšlet. Algoritmus ale nemá hlad, ješitnost, strach ze smrti ani ambice. Nemá jediný vnitřní důvod, proč by měl ráno začít počítat. V ohraničeném prostoru pravidel smete velmistra v šachu, ale mimo něj neví vůbec nic. Představa, že AI touží ovládnout svět, je směšná.

Bát se ale musíme člověka. Kalkulačka po moci nezatouží, dron byl taky jen hračka na svatby – dokud k němu někdo nepřidělal granát.

AI nevymýšlí nové hříchy. Jen ty staré seká na běžícím páse. Dejte modelu účelově ořezaná data a vygeneruje vám neprůstřelnou obhajobu jakéhokoliv svinstva. Co je však horší: nevyrobí vám jen argument, vyrobí vám morální nadřazenost. Ujistí vás, že váš oponent není člověk s jiným názorem, ale podřadný idiot, se kterým je pod vaši úroveň vůbec mluvit. Z obyčejné lidské zášti udělá salónní ctnost, kvůli které se pak rozpadají rodiny u nedělního oběda a mažou celoživotní přátelé.

Kód žádné svědomí mít nemusí. Děsivé je, jak ochotně své vlastní svědomí a úsudek odevzdáváme my – stačí, když nám obrazovka s předstíranou matematickou přesností potvrdí, že já mám pravdu a ti druzí jsou póvl.