Obávám se, že vývojová větev Hominidae -> Homo -> Homo sapiens je slepá ulička evoluce...

Sice osobně nejsem zastáncem "AI-doomsday" a podobných "náboženství", ale naprostá většina odborníků, specializujících se na (a též vesměs skvěle profitujících z) varování o zkáze lidstva tvrdí něco trochu jiného.

Jednu část jste sám zmínil - úkol, jehož řešení bude natolik originální a mimo chápání zadavatelů, že to může mít nedozírné následky.

Dalším je potom souboj velmocí za pomoci AI, kdy ona "hra na kuře", která se dnes často uplatňuje - a nebo ještě něco zcela jiného, o čem dnes nikdo ani netuší - může též skončit tragicky.

No a v neposlední řadě je to i o tom, že v určité fázi rozvoje AI skutečně získá to "Vědomí" s velkým V a bude nadále jednat samostatně - ať již to znamená cokoliv.

Na začátku jsem zmínil, že nejsem zastáncem doomsday scénářů.

Nemám tím však na mysli, že jsou nemožné.

Pouze se domnívám, že při současných a hlavně budoucích možnostech AI je zcela vyloučené, abychom s tím cokoliv dělali.

Navíc jednou z možností je i ta, že nám AI sama v budoucnu pomůže nalézt "ochranu", i když to zní spíše jako útěcha, protože připustíme-li fakt, že každý další model bude rozvinutější, pak je jen těžko představitelné, že by nepřekonala ten "zaostalý".

Tak jako tak - rozvoj AI a robotizace nám zřejmě umožní zažít "zlatý věk" lidstva a doufejme, že potrvá co nejdéle.

Takže - carpe diem! Nic jiného s tím dnes již stejně nikdo nic nenadělá.

Jak jsem se snažil napsat v článku. Pravděpodobnost zdivočení AI je vysoká. Jenomže ty katastrofické scénáře tomu dáváme pouze mi lidé. Proč je pravděpodobnější že zdivočelá AI udělá něco katastrofického, i když jistě může, než že udělá něco pozitivního, nebo že udělá něco banálního.

To je otázka, kterou se snaží článek položit a na to tady nikdo neodpovídá, co víc, ani nereaguje.

To co píšete je v principu správně, jenom to nepatří k tomuto článku, ale k tomu předchozímu.

O vědomí jsem psal, to podle mne až tak nehrozí, zato to ostatní ano. Žádné okecané záplaty tomu nezabrání.

Domnívám se, že jde čistě o časový horizont.

Neurosítě - jež se zkoumají již dlouhou řádku let - směřují právě k napodobení lidského myšlení - či přesněji k hledání návodů ke zlepšení výkonu a fuknce a analogie k lidskému mozku.

Dá se předpokládat, že dříve či později AI dosáhne vlastního vědomí.

Kdy to bude dnes zřejmě nikdo netuší.

Ovšem vlastní vědomí AI je dle mého soudu menší problém - lidstvo se prostě bude přesouvat do role psů, žab, žížal, prvoků atd.

Monehm aktuálnější se zdá být problém využití AI k dosažení vlastních soukromých, firemních či státních cílů (zde v soutěži velmocí).

A představa o nějakém dobrovolném omezení mi připadá úsměvná.

Nicméně to celé nic nemění na tom, že více než pravděpodobně již naše generace má díky rozvoji AI a robotizace šanci zažít zlatý věk.

Ono vůbec nazývat koncem světa pouhý zánik jedné civilizace jednoho živočišného druhu nesvědčí o ničem jiném než o bezmezné lidské nabubřelosti. 😺

To je moje zkratka, za to se omlouvám.