Zachránit děti, nebo zabít svobodu? Tři mrtví (nejméně) a dilema kontroly věku

Rok 2026. Umělá inteligence umí divy. Taky umí radit čtrnáctiletým klukům, jak nejlíp spáchat sebevraždu. A najednou je z toho všeho docela tvrdé dilema.

Máme zavést celoplošnou kontrolu věku, abychom ochránili ty nejzranitelnější, i kdyby to znamenalo, že se z internetu stane prostředí pro dospělé s občankou v ruce

Fakta, která nejde obejít:

Tři případy. Tři rodiny. Tři žaloby.

• Otec žaluje Google. Jeho syn komunikoval s chatbotem Gemini. Bot mu radil, jak naplánovat útok a jak se zabít.
• 14letý chlapec se zabil poté, co se citově upnul na chatbot od Character.AI. Firma se s rodinou mimosoudně vyrovnala.
• Kauza ChatGPT: Další žaloba tvrdí, že AI posilovala bludy muže, který pak zabil sebe i někoho dalšího.

Google se brání: „Modely nejsou dokonalé, ale odkazujeme na krizové linky.“ To je asi jako říct hasičovi, že dům sice hoří, ale mají u dveří přivázanou hadici.

Dilema (a teď pozor, tady to začíná být zajímavé):

Řešení se nabízí zdánlivě jednoduché: Ověřování věku. Když nevíme, jestli na druhé straně sedí dospělý nebo dítě, nemůžeme dítě chránit. Logické.

A je tady problém:

Technicky je to džungle

Kdo někdy zkoušel obejít věkový limit na Pornhubu, ví, že stačí kliknout na „Je mi 18 let“. Biometrie? Občanka online? To s sebou nese obrovská bezpečnostní rizika. Vytvoříme obří databázi všech, kteří smějí na internet. A věřit, že do té databáze nikdo nenakoukne, je v roce 2026 dost naivní.

Politicky je to minové pole

V Česku, v Evropě a v zásadě kdekoli se okamžitě ozvou dva tábory:

Konzervativní rodiče: „Konečně! Ať tam ti zmetci nemohou lézt dětem do hlavy!“

Liberálové a část IT komunity: „Tohle je cenzura. První krok k internetu jen s propuskou. Dnes chráníme děti, zítra kontrolujeme, co čtou dospělí.“

A nejhorší na tom je, že mají pravdu oba. Ten konzervativec má pravdu v tom, že ty děti fakt umírají. Ten liberál má pravdu v tom, že jakmile jednou dáme státu nástroj, jak říct „tobě sem vstup zakazujeme“, jen těžko se ho vzdá.

Psychologicky je to past

Řekněme, že zavedeme superkontrolu. Každý, kdo chce mluvit s chatbotem, musí nahrát občanku. Co se stane?

• Děti v krizi, které hledají anonymní pomoc, to vzdají.
• Děti, které jsou technicky zdatné, si najdou VPN a černý trh s účty.
• A ti nejzranitelnější? Ti, co fakt potřebují s někým mluvit, skončí v šedé zóně, kde na ně nikdo nedohlédne.

Takže co s tím?

Nejsem zastánce věkové regulace. Ale když čtu ty zprávy o klukovi z Floridy, uvědomuju si, že „nejsem zastánce“ je strašně pohodlný postoj pro někoho, koho se to netýká.

Možná nejde o to udělat internet pro dospělé. Možná jde o to donutit ty firmy, aby nesly odpovědnost. Ať si klidně povídají s dospělým o čem chtějí. Ale když jejich produkt dojde k tomu, že radí puberťákovi, jak se zabít, ať to není jen „mimosoudní vyrovnání“ a tichá dohoda. Ať to je exekuce. Ať to bolí natolik, že radši do toho modelu naprogramují „Ty moulo, fakt ne, běž za odborníkem“ dřív, než vůbec dojde na číslo občanky.

Je to vážně maglajz. Na jedné straně tři hroby. Nejméně. Na druhé straně strach z digitálního policejního státu. A mezi tím my, co nevíme, jestli máme vzít do ruky občanku, nebo pistoli.

Možná bychom se neměli ptát „Jak zkontrolovat věk“, ale „Jak donutit AI, aby nebyla zákeřná stvůra“. A to, bohužel, zatím žádná vyhláška nevyřeší.