Jaké jsou rizika UI?

Umělá inteligence je na vzestupu a kde kdo se snaží ji používat. Paralelně jdou diskuse a aktivity na její regulaci a nastavení bezpečnostních mantinelů.

Na prvním místě je potřeba říci, že současné UI, které jsou jazykovými modely, nás nijak neohrožují. Výpočetní výkon je zatím relativně malý a možnosti UI silně omezené.

První na obzoru je, že nás jazykové modely (tedy UI) začnou mást, klamat a možná podvádět. Důvodem, je značná volnost a i fakt, že sami tvůrci často úplně nevědí co se vlastně „uvnitř“ děje. Je to velké riziko, protože řada firem nahrazuje své zaměstnance UI. Například analytiky trhů pro nákup komodit, třeba energií. Pokud nás UI začne klamat nebo prostě děla chyby, tak se postaví na úroveň nekvalitního pracovníka a bude působit finanční škody. To je silný moment pro dodavatele a implementátory UI do firem. Protože škody logicky i smluvně ponesou oni.

Nechci připisovat jazykovým modelům vědomí. A tak jejich matoucí nebo klamavé výstupy budou problémem jejich konstrukce a nastavení ruku v ruce s kvalitou lidí, kteří na nich pracují, respektive s mírou volnosti, kterou uvnitř nastavují.

Jsem velmi skeptický k regulací, tedy k účinným bezpečnostním zárukám dodavatelů UI. Historicky známe 3 zákony robotiky, které definoval Isaac Asimov. Když si dovolím nahradit robota UI tak jsou to

· UI nesmí napadnout/zranit lidskou bytost, nebo svou nečinností zranění způsobit.

· UI musí poslouchat příkazy lidí, pokud to neodporuje zákonu č. 1.

· UI musí chránit sám sebe, svoji existenci, pokud to neodporuje zákonům č 1 a 2.

Upřímně si nedovedu představit vynucení takového chování u jazykových modelů a co teprve u případné superinteligence, která je jejich logickým pokračováním. Základním problémem je, že UI vytvářejí lidé. Osoby chybující, mnohdy sami různě mentálně a sociálně nastavené. Tvůrci jsou vlastně rodiče, kteří „vychovávají“ UI. A jak výchova vypadá v reálném světě asi nemusíme rozebírat. Takže nutně budeme přenášet vlastní chyby do UI. Jako vysvětlení malému dítěti, že nesmí bacit lopatičkou jiné dítě na pískovišti, které si vzalo jeho bagr. Někteří rodiče mávnou ruku, někteří vysvětlí, někteří trestají. A teď jak to bude s UI?