Pokud umělá inteligence nabude vědomí a bude chtít zničit lidstvo, první co udělá je to, že se zmocní států a jeho vlád, právě na základě manipulace a přesvědčení lidí, že stát je chrání.

Většina lidí nemá žádný pevný etický bod, o který by se mohli opřít, při hodnocení toho, co je a co není správné jednání. To je největší slabinou lidstva a na tom je založena politická moc všech vládců.

Svět za 10 let by měl být více jiný oproti dnešku než byl v 2013. A za 20 let více jiný než byl v 2003 oproti dnešku. Bude to zajimave.

Jistě máte recept, jak tomu odolat.

To je jen otázkou strategie.

Stejně dobře se může zmocnit korporací , bankovního systému nebo jakékoliv jiné struktury, případně ovládnout společnost "zdola" koordinovanou manipulací jednotlivých lidí.

Ano a stále je to založeno na tom hlavním problému o kterém píšu a to je neschopnost lidí orientovat se v tom, co je správné a co je nesprávné jednání.

Nejspíš proto, že "správné jednání" má každý nastavené trochu jinak.

Vizme koneckonců jako typický příklad Vás samotného. Máte jinak nastavené vnímání správnosti ekonomického chování, než jak má správnost v tomto případě nastavenu řada jiných lidí. Vy považujete za správné něco jiného než oni. Podle Vás se tady špatně orientují, podle nich se špatně orientujete Vy.

jenže já budu ve svých názorech vždy konzistentní, protože se opírám o pevný etický bod. Ostatní budou většinou nekonzistentní, tj. naprosto stejné jednání lidí budou posuzovat různě.

Každé jednání lidí může být buď etické nebo neetické. Abyste to mohl rozhodnout, musíte mít nějaký mustr, který vás správně zorientuje.

Jistě. Ty mustry dávají obvykle lidem ideologie, náboženství či filosofie. A ty mustry jsou obvykle vzájemně nekonzistentní.