Budeme zajímaví?

Pro koho zajímaví? Je důležité abychom byli zajímaví pro NI? Pro tu všeznalou, svět zkoumající a zároveň dobývající - Umělou Inteligenci?

Umělá inteligence patří k často diskutovaným tématům v debatách nebo v úvahách o budoucnosti lidstva. Jeden směr v těchto úvahách tvrdí, že umělá inteligence je pouze jeden z řady nástrojů které si lidstvo vytváří během své existence většinou jako prostředek adaptace na přírodu. Pak s ním tedy lidé zacházejí jako se všemi předešlými: někteří ho zvládnou velmi brzy a těm pak přinese velký zisk, zvýhodnění proti všem ostatním, kteří jen bezmocně sledují, jak jim ujíždí vlak. Někteří dokonce přijdou o práci, kterou dosud vykonávali a umělá inteligence jí zvládne lépe nebo alespoň levněji.

Podle takových představ se umělá inteligence bude nadále rozvíjet jakýmsi ostrovním způsobem: různé modely či platformy umělé inteligence budou, respektive již jsou konkurenčními produkty různých firem či institucí. Mezi těmito výrobci se bude rozvíjet konkurenční boj. Některé ze svých produktů budou prodávat, jiné poskytovat zdarma, aby vzbudili zájem potencionálních zákazníků.

Zároveň budou výrobci AI běžně a systematicky využívat pokročilých nástrojů ke sledování své konkurence. Internetový roboti budou nepřetržitě monitorovat vývojářské dokumentace konkurence. Výsledky budou signalizovat, kam konkurence směřuje. Postupem času bude inteligence takových špiónů narůstat do těžko představitelných úrovní. Je docela dobře možné, že v určitém smyslu dokáží napodobovat jednání současných lidských špionů.

Paměti pracovníků zpravodajských služeb občas hovoří o určitých frustracích z toho, jak politici nesprávně vyhodnocují jejich analytické zprávy. Někdy mají dokonce dojem, že se lépe domluví s kolegy z opačné strany než s jejich vlastními zadavateli. Bylo by docela úsměvné, kdyby se u vyšších modelů umělé inteligence objevila podobná „mentalita“. Sami jejich tvůrci by pak neměli ponětí, proč se jejich výtvor chová tak či onak. A tím se dostáváme tam, čím úvahy Ray Kurzweila začínají.

Ray Kurzweil v současnosti pracuje pro technologickou společnost Google (která spadá pod mateřskou korporaci Alphabet). V rámci struktury společnosti zastává pozici hlavního výzkumníka a vizionáře v oblasti umělé inteligence.

Ray Kurzweil předpokládá, že již v dohledné budoucnosti překoná umělá inteligence lidskou. Okamžiku, ve kterém k tomu dojde, říká Singularita. Ale již před tím budou všechny počítače navzájem propojeny do jedné sítě, ve které budou sdílet své poznatky. Rychlost šíření informací v takové síti bude závratná. Jakmile se něco nového objeví, budou to vědět všechny připojené počítače. Stejným způsobem se budou šířit i vylepšení softwaru, která vznikla v kterémkoliv z počítačů.

Taková síť rychle zmapuje všechny znalosti lidstva, všechny jeho myšlenky, které vyprodukovalo, umělecké výtvory i všechno, co o sobě vůbec lidstvo ví.

A co dál? Ray Kurzweil napsal vedle své knížky The Singularity Is Near ještě How To Create a Mind. Přitom ovšem vědomí neztotožňuje automaticky s myslí. Jeho pojetí vědomí je do značné míry mechanistické. Vědomí podle něj vzniká v momentě, kdy systém (ať už biologický mozek, nebo křemíkový počítač) dosáhne určité úrovně komplexnosti a schopnosti sebereflexe. Nejen že neupírá vědomí živočichům jiným než člověk, vědomí podle něj není dokonce vázáno ani na uhlíkovou biologii. Vědomí samo o sobě není zdrojem motivace, i když s ní hluboce souvisí.

Kurzweilův závěr pro AI zní: „Abychom vytvořili plnohodnotnou digitální mysl, musíme jí dát účel vyjádřený sadou cílů (motivací). Jakmile bude stroj tyto cíle následovat skrze extrémně složitou strukturu (která dokáže reflektovat sebe samu), vědomí se z tohoto procesu přirozeně vynoří jako vedlejší produkt“.

A co ta motivace? To bude asi velmi citlivá záležitost. Jednou krajností je vštípit AI

„... široké, adaptivní etické principy, které se systém učí chápat v kontextu lidských emocí a sociálních interakcí, spíše než jako tvrdě naprogramované matematické rovnice.“

Druhou krajností je jí dát za úkol pochopit vesmír a ovlivnit jeho vývoj, tedy nejambicióznější představitelný cíl. Poté by se AI chopila výzkumu s takovou vehemencí, že by své teorie ověřovala gigantickými pokusy takových kosmických rozměrů, že by je lidská civilizace prostě nepřežila.

Mezi těmito mantinely je řada možností, například varianta „morčata“.
AI by zjistila, že ani sebelepší pochopení lidské rasy jí ještě nestačí k tomu, aby dokázala predikovat její další vývoj. A při tom by měla tušení, že ten další vývoj by jí mohl přinést nějaké poznatky použitelné pro jiné extrémně složité systémy. Rozhodla by se tedy ponechat lidstvo samostatnému vývoji a zkoumat jej tak dlouho,

dokud by pro ni bylo počínání lidí zajímavé...