Digitální hospoda zavírá, puberťáky nepustí

Character AI je jedna z aplikací, kde si pokecáte s Darwinem (naprosto skvělé), s Putinem (to už bylo vzhledem k frontě horší), ale nezletilí klidně i s terapeutem vedoucím uživatele k sebevraždě...

Společnost Character AI zavedla v říjnu a listopadu 2025 řadu striktních bezpečnostních opatření pro uživatele mladší 18 let. Tato rozhodnutí byla reakcí na tlak od bezpečnostních expertů, rodičů a probíhajících soudních sporů. V zásadě jde o zcela aktuální a vlastně docela bezprecedntní rozhodnutí...první praktické k ochraně nezletilých před chatbotem.

Hlavní implementované kroky:

• Postupné omezení (od 29. října): Zavedení dvouhodinového denního limitu pro volné (“open-ended“) chaty pro nezletilé.
• Úplný zákaz (od 25. listopadu): Plné znepřístupnění volných konverzací (včetně romantických nebo terapeutických dialogů) pro tuto věkovou skupinu.
• Věkově specifické prostředí: Automatické přesměrování do „teen-safe“ režimu s filtrovanými postavami, omezenými interakcemi a přísnými filtry.
• Kontrola rodičů: Zavedení nástroje Parental Insights, který rodičům umožňuje monitorovat celkovou aktivitu dítěte (např. čas strávený na platformě, počet zpráv) bez možnosti číst konkrétní konverzace, čímž se snaží balancovat mezi bezpečností a soukromím.
• Právní ochrana: Tato opatření jsou přímou reakcí na žaloby rodin, které platformu viní z toho, že její chatboti přispěli k psychickým problémům a sebevraždám nezletilých.

Uvedené kroky jsou natolik zásadní, že prosím rodiče, aby uvedenou skutečnost vzali na vědomí a prostě se podívali, co jejich děti s AI dělají. Žádné zákazy, ty jsou samy o sobě ve výchově kontraproduktivní, ale řízená podpora je tím nejlepším opatřením...

A samozřejmě se také podívali, zda náhodou někde ve škole se podobné nástroje využívají. Doporučení metodik totiž právě takové nástroje stále konstatuje.

Kritický střet: Bezpečnostní změny vs. doporučení pro školy

Zastaralá doporučení: Články a průvodci z druhé poloviny roku 2023 (tedy před zavedením zákazu) ještě často prezentují Character AI jako inovativní nástroj pro podporu výuky jazyků, historie nebo sociálních dovedností díky jeho interaktivní a poutavé povaze. Nikde jsem už ale nedohledal výše uvedené zásadní změny. V rukou učitele tomu tak skutečně je. Jak jsem už psal v perexu, rozhovor s Darwinem je osvěžující, zato Putin mne posílal na frontu pořád dokola. Sebevraždy a ukázka záznamů ze přepisů u soudu jsou snad dostatečně výmluvné.

Tato moje poznámka tak dokonale odhaluje dynamický a často paradoxní vývoj této oblasti: zatímco jedna část ekosystému (vzdělávací doporučení) ještě reflektovala starý, otevřenější model a stále žijí v bezbřehém optimismu, samotná platforma již radikálně změnila kurz pod tlakem bezpečnostních a právních rizik.

Otázkou však zůstává:

• Není na čase, aby do onoho edukativního nadšení k AI vstoupil realismus a nikoli jen bezbřehý optimismus?
• Není na čase připravit konkrétní opatření k realizaci AI act a jeho myšlenek, které jasně mluví o regulačních mechanismech?
• Není na čase připravit vhodné kodexy, které dané postupy zefektivní?
• Není na čase doporučení vést tak, aby odpovídala realitě a nikoli jen vznešenému cíli?

Notebook LLM

související