Věk jako klíč i pouta: Anatomie digitální moci III.

Open AI oznámila, že pokusně zavede diagnostiku věku uživatele Chatu GPT ve snaze ochránit nezletilé před digitální zlovůlí. A máme tu Chat Control tentokrát ze strany providera...Ach ach...

Oznámení OpenAI je ukázkovým příkladem moderního dilematu digitálního věku: jak chránit zranitelné skupiny, anebo zároveň postavit digitální kontrolní stanici, kde se každý uživatel musí prokázat, že je dost starý na to, aby mohl myslet, ale ne tak starý, aby se ptal proč. Myšlenka kontroly věku jako „zbraně“ je až překvapivě přesná: může fungovat jako štít, ale stejně snadno se promění v obušek.

V ideálním světě je kontrola věku něco jako bezpečnostní pojistka na dětské pistoli na vodu; chrání, aniž by překážela. Dospívající mozek je ve vývoji, impulzivní a citlivý na sociální vlivy. Umělá inteligence, která nezná hranice, by pro něj mohla představovat reálné riziko od prohlubování úzkostí až po manipulaci. Systém, který dokáže rozpoznat nezletilého uživatele a aktivovat „bezpečnostní režim“, je analogií dětských pojistek na zápalkách nebo bezpečnostních zámků na lécích.

Ironicky řečeno: kdyby šlo jen o tohle, tleskali bychom. Konečně technologie, která se snaží být dospělá za nás.

Jenže každá zbraň má druhou stranu hlavně – a ta míří na nás.

• Chyby a falešná pozitiva:
  Algoritmus, který odhaduje věk, je jako barman, který kontroluje občanky podle intuice při prodeji piva nezletilému či něčeho více alkoholického. Někdy se trefí, někdy pošle domů čtyřicátníka, protože „má mladou pleť“. Co se stane dospělému, který je mylně označen za teenagera? Bude mu omezen přístup k informacím, diskusím nebo nástrojům? Bude nucen podstoupit ponižující proces ověřování? Zbraň, která měla chránit děti, tak míří na nevinné.
• Eroze anonymity a soukromí:
  Povinnost prokázat věk je elegantní způsob, jak obejít debatu o digitální identitě. Nechceme přece vaše jméno – jen věk. A rodné číslo? A fotku? A možná ještě jeden dokument, protože algoritmus si není jistý. Pro mnoho lidí je anonymita klíčová pro hledání pomoci nebo informací bez strachu. Kontrola věku může tuto únikovou cestu zablokovat. Už jsem psal o obavách Evropy po oficiální přísaze Microsoftu ve Francii, že nemohou zaručit předání dat americkým úřadům. No, a tady máme ještě vyšší formu téhož.
• Rodičovská kontrola jako nástroj zneužití:
  V rukou zdravé rodiny je to pomocník. V rukou toxické rodiny je to digitální obojek. Mladý člověk hledající pomoc v obtížné situaci může být snadněji odhalen, umlčen nebo potrestán.
• Normalizace dohledu:
  Systém, který nás neustále „odhaduje“, normalizuje společnost pod neustálým dohledem. Dnes věk. Zítra emoce. Pozítří politické preference. A nakonec možná i to, jestli jste dostatečně „bezpečný“ uživatel.

Proč je věk skutečně zbraní

Věk je zbraň, protože je to první univerzální parametr, kterým lze legitimně rozdělit populaci na dvě kategorie – a nikdo se proti tomu nemůže bránit.

• Je to legitimní důvod k omezení přístupu.
• Je to snadno obhajitelný zásah do práv (“je to přece pro děti“).
• Je to precedens, který umožňuje budoucí kategorizaci podle dalších politickou zvůlí požadovaných charakteristik.
• Je to brána k identifikaci, protože věk bez identity neověříte.
• Je to politicky neprůstřelný argument, protože kdo by byl proti ochraně dětí?

Věk je tedy ideální zbraň: nevinně vypadá, snadno se ospravedlňuje a otevírá dveře k dalšímu rozšiřování kontroly. Však si to pánové v Bruselu dobře uvědomují, a proto se návrh na Chat Control přepisuje do různých verzí, ale obsah je pořád totéž. Jednou odmítnut, dostane převlek a šup za na stůl zpátky...

Hledání rovnováhy mezi ochranou a svobodou

OpenAI správně identifikovala reálný problém a snaží se na něj odpovědět komplexně: nejen technologií, ale i spoluprací s experty a vzděláváním. Jejich záměr je obranný. Skutečná „zbraň“ ale nespočívá v úmyslu, nýbrž v architektuře systému a jeho vedlejších účincích.

Budoucnost ukáže, zda se kontrola věku stane jemným airbagem, který zachraňuje, aniž by dusil, nebo hrubou závorou, která bude chybovat, diskriminovat a rozšiřovat logiku totálního dohledu. Ochrana dětí nesmí být záminkou k vybudování digitálního panoptika pro všechny.

A právě v této tenké hranici mezi štítem a okovy se bude odehrávat velká část boje o podobu našeho digitálního života.