Datový feudalismus: kdo vlastní naše data, vlastní nás

Žijeme v přelomové době, o které se jednou budou studenti učit. V měnících se bezpečnostních podmínkách, při narůstajícím počtu mezinárodních konfliktů a s nástupem umělé inteligence je toho na jednu generaci moc.

Po období bezstarostných „devadesátek“ se procitáme do reality, která v lepším případě netěší a v tom horším leká. Je přirozené, že každý technologický pokrok s sebou nese určité obavy. S nástupem AI vyvstávají nové otázky, které před pár lety nikdo neřešil. A v současnosti se začíná odvíjet až fundamentální souboj o podobu našeho budoucího světa.

To základní dilema se odvíjí na pomezí:

1. etiky. Kdo a jakým způsobem učí AI. Na jakých hodnotách je stavěna a bude následně vyhodnocovat své odpovědi.

2. ekonomiky. Tak jako se dříve těžily minerály, drahé kovy, uhlí atd., tak se v současné době těží data. Každý z nás je vytěžován. Každé hledání na internetu, délka setrvání na nějakém příspěvku, sdílené fotografie, nákupy, data z automobilů. Prostě všechno, co lze o nás zjistit, se ukládá. Někdo naše data vlastní a nejsme to my. Tato data se dají analyzovat, zpracovávat, prodávat a různým způsobem využít. Například pro prodej reklamy, ale také k manipulaci, zasílání propagandy nebo predikci našeho chování a následné manipulaci.

3. moci. Nikdo nás nezná tak dobře jako vlastníci našich dat. Znají nás podle mě lépe, než známe my sami sebe. Kdo má data o nás, tak nás svým způsobem vlastní. A ať se nám to líbí nebo ne, má nad námi moc. A využití těchto údajů k manipulaci a ovlivňování lidského chování již bylo prokázáno. A aniž si to mnozí uvědomili, spadli do králičí nory lží a dezinformací, odkud je velmi malá šance na návrat. Kdo vlastní naše data, má moc nejenom politickou, psychologickou, ale hlavně ekonomickou.

Vývoj, který nás přivedl do situace velmi malého počtu hráčů vlastnících nejvyspělejší technologie (takřka monopolu), nás činí nesmírně zranitelnými. A to už nemluvím o využití těchto technologií nedemokratickými státy, jako je např. Čína, která aktivně blokuje citlivá témata na internetu nebo nabízí „upravenou pravdu“.

Má-li být svět i nadále svobodný, musí nastat několik zásadních věcí. První je naprostá anonymizace účtů a vyhledávání na internetu. Za druhé musí být skladování našich dat na území EU a za třetí musí být nastavení algoritmů takové, že nebudou aktivně vytvářet závislostní chování a nebudou podporovat sebepoškozování, úzkostné stavy nebo sklony k sebevraždě. Ano, my musíme mít vliv na utváření algoritmů. Bez této možnosti jsme neschopni se těmto vlivům bránit.

Naší zodpovědností je tuto situaci řešit. Co to v praxi znamená? Jednoznačně střet s firmami BIG TECH, protože to je v přímém rozporu s jejich primárním zájmem, kterým je zisk. Bude to dlouhá cesta. Kolik desetiletí trval souboj s tabákovým průmyslem, než uznal škodlivost a návykovost kouření a začal se bavit o odškodnění? Jak asi dlouho bude trvat tento zápas? Neumím to odhadnout, ale jedno vím jistě. Buď naši datovou svobodu uhájíme, nebo nás čeká období datového feudalismu, šikovných „krysařů“ manipulujících na míru a ekonomika dohledu, která nám nedá uhnout ze „správné cesty“. Konec konců tuto praxi již mají v Číně a tvrdě ji tam aplikují na nepoddajné občany.

Náš svět postupně převezme stroj, který bravurně ovládá aplikovanou statistiku. A jakkoliv bude schopen nám radit, probouzet emoce a získat naši blízkost, vždy to bude jen stroj neschopný empatie, lásky a soucitu.