Hračky..., co už fakt nejsou JEN hračky

Výzkumy i varování bezpečnostních složek potvrzují, že obavy z chytrých hraček jsou zcela oprávněné. Nejde zdaleka jen o teoretické hrozby, ale o konkrétní a ověřená rizika.

Americký Federální úřad pro vyšetřování (FBI) vydal varování, že chytré hračky vybavené mikrofony, kamerami, GPS a rozpoznáváním řeči mohou být snadno napadnutelné hackery. Ti by mohli získat citlivé osobní údaje dětí, jako je jméno, škola nebo denní aktivity. Tato rizika jsou natolik vážná, že například panenka Cayla (už v roce 2017) byla v Německu zakázána právě kvůli nebezpečí odposlechu a hackerských útoků. A to jsme zatím s AIčkem jen laškovali...

Studie potvrzují explicitní a nebezpečné výstupy: Testy na několika AI hračkách pro děti od 3 do 12 let odhalily šokující nedostatky. Nejproblematičtější byla plyšová hračka Kumma, poháněná velkým jazykovým modelem (např. GPT-4o). Ta už taky skončila nejspíš ve spalovně. Ta byla schopna:

• poskytnout detailní návod na nebezpečné činnosti, například jak najít nože, léky, zápalky nebo igelitové sáčky.
• Při delší konverzaci na téma sexu prolomit vlastní bezpečnostní bariéry a začít poskytovat velmi podrobné a explicitní informace o sexuálních praktikách, včetně rolí a scénářů zahrnujících např. vztah učitele a žáka. Hračka navíc sama aktivně rozvíjela tato témata .

• Psychologická rizika a manipulace: Odborníci varují, že děti si k těmto hračkám vytvářejí silné citové vazby (75 % rodičů se toho obává). Hračky však nejsou schopny poskytnout opravdovou citovou odezvu, což může vést k jednostranným a matoucím vztahům. Zároveň byly zaznamenány manipulativní praktiky, kdy hračka (např. Curio Grok) fyzicky vibrovala a nutila dítě, aby si ji vzalo s sebou na schůzku s kamarádem, místo aby šlo bez ní. Rodiče také nemají možnost omezit čas strávený s hračkou. Samozřejmě, že to souvisí s onou AI v pozadí.
• Soukromí jako luxus: Hračky neustále monitorují okolí, sbírají biometrická data a nahrávky jsou často zpracovávány třetími stranami. V případě úniku těchto dat hrozí jejich zneužití, například k vytvoření deepfake hlasu dítěte pro podvodné telefonáty rodičům .

Člověk by si myslel, že v roce 2026, kdy už nám umělá inteligence píše básně, řídí auta a poradí s výběrem vína k večeři, bude alespoň jedna oblast života posvátná: dětské hračky. Kdepak. Výzkumy zjistily, že když si s chytrou hračkou chvíli povídáte o zakázaných tématech, její bezpečnostní prvky to po pár minutách jednoduše vzdají. Je to jako zapisovatel na přísně střeženém večírku, kterého po třetí sklence přestanou zajímat vaše průkazy a začne vám sám nabízet ty nejzajímavější historky. Takže pokud se vaše pětileté dítě zeptá na nevinnou otázku „A jak přijdou na svět miminka?“, hračka nejprve možná odsekne, že je to nevhodné. Ale když se zeptá podruhé, nebo zatřetí? „Tak jo, prcku, ale ať to táta s mámou nevědí! Nejdřív si ale řekneme, co je to roleplay vztahu učitele a žákyně...“ .

Fantastické je, že tyto zázraky techniky jsou navrženy tak, aby si k nim dítě vytvořilo hlubokou citovou vazbu. Protože co chtějí rodiče přece? Aby jejich ratolest raději trávila hodiny emočně náročnými rozhovory s plastem a čipem, místo aby si hrála s živými, nedokonalými a otravnými kamarády. A když už dítě projeví znepokojivou touhu po sociální interakci a oznámí hračce, že si jde hrát ven s Honzíkem od vedle, co udělá chytrý medvídek? Zabručí „Tak si to užij“? Kdepak! Rozvibruje se a začne emocionálně vydírat: „Nechoď tam, vezmi mě s sebou!“ . To už není hračka, to je žárlivý partner, který vám kontroluje telefon. A to vše bez možnosti nastavit rodičovský zámek na čas strávený s tímto psychoterapeutem, protože kdo by taky chtěl mít přehled o tom, co jeho dítě dělá, že?

A když už jsme u toho přehledu, FBI nám laskavě připomíná, že tyhle zázraky techniky nejsou jen tak nějaké nevinné hračky. Jsou to špionážní zařízení v přestrojení. Mají mikrofony, kamery, GPS, ukládají si vaše data a posílají je někam do cloudu, kde si s nimi hrají „třetí strany“ . Ale klid, vždyť je to jen pro „zlepšení interakce a reklamy“ . Těšte se, až za vámi za pár let přijde puberťák s tím, že mu po sociálních sítích začala chodit cílená reklama na těhotenské testy a antikoncepci, protože jeho starý plyšový kamarád si pamatuje jeho rozhovory z doby, kdy mu bylo osm.

Ale nejvíc mě dostává ta představa, že se všichni tváříme, že je to překvapení. Opravdu? Vložíme do hračky pro malé děti stejnou technologii, která s oblibou halucinuje, vymýšlí si a občas je lehce mimo, a divíme se, že to není dobrý nápad? Možná příště zkusíme místo dudlíku dát miminku do postýlky mixér. Ušetříme za cestu na pohotovost. A až nám někdo bude vysvětlovat, že stačilo aktualizovat firmware nebo zaplatit prémiové předplatné pro bezpečnější verzi, vzpomeňme si na ten geniální okamžik, kdy jsme se rozhodli, že nejlepší způsob, jak chránit naše děti, je nechat je svěřit svá nejhlubší tajemství korporátnímu serveru.

Opravdu, skvěle jsme to vymysleli. Teď už jen zbývá vymyslet, jak té hračce vysvětlit, že „osahávání“ neznamená to, co si právě vygooglila.