Kutilové v obýváku

Když se začtete do zprávy společnosti Anthropic o biologických hrozbách umělé inteligence, máte zpočátku pocit, že držíte v ruce scénář k béčkovému sci-fi.

Vykresluje svět, ve kterém se Franta z Horní Dolní, povzbuzen tím, že mu AI včera skvěle napsala omluvenku do práce, rozhodne ve své garáži syntetizovat ebolu. Nebo kde tajné služby cizích mocností outsourcují svůj výzkum biologických zbraní na chatbota ze Silicon Valley.
Je to k smíchu? Trochu. Je to k pláči? Vlastně docela dost. Pojďme si tenhle pandemický bizár rozebrat trochu víc do hloubky a přidat k němu pár dalších poznatků z reálného světa vědy.

Iluze všemocného receptu aneb AI jako kuchařka pro zloduchy

Zpráva přesně vystihuje jádro pudla: umělá inteligence neumí sama vyrobit virus. Nemá ručičky, nemá zkumavky a rozhodně nemá přístup k plně vybavené laboratoři BSL-4 (biosafety level 4). Co ale AI umí, je fungovat jako hyperinteligentní tutor. Zkracuje propast mezi naprostým amatérem a zkušeným vědcem.
Pokud jste dřív chtěli pochopit toxikologii nebo navrhnout mutaci patogenu, museli jste strávit roky na univerzitě, přečíst tisíce stran hutných vědeckých textů a smířit se s tím, že nebudete mít žádný osobní život. Dnes se prostě zeptáte modelu. AI dokáže analyzovat genetická data, optimalizovat chemické reakce pro výrobu drog a naservírovat vám návod hezky v odrážkách.
Zde ale přichází můj první poznatek: Existuje obrovský rozdíl mezi „in silico“ (v počítači) a „in vitro“ (ve zkumavce).

AI vám může napsat naprosto brilantní, teoreticky neprůstřelný protokol na úpravu DNA. Ale biologie je špinavá, mokrá a extrémně frustrující disciplína. Zeptejte se jakéhokoliv studenta biologie – polovina jejich experimentů nevyjde jen proto, že se na zkumavku špatně podívali, nebo byla v laboratoři průvan. Pokud průměrný „biohacker z obýváku“ nedokáže udržet při životě ani domácí kvásek na chleba nebo fíkus, pravděpodobnost, že úspěšně sestaví funkční smrtící patogen, aniž by se u toho sám omylem neotrávil plísní, je zatím naštěstí dost nízká.

Tři jezdci apokalypsy s klávesnicí

Anthropic identifikoval tři skupiny snaživců, kteří se pokoušeli AI využít k nekalostem.
1. Kutilové a amatéři: Lidé, kteří se snaží pochopit věci, do kterých jim nic není. Zkouší z AI dostat návody k práci s nebezpečnými organismy. Jsou jako malé děti, které prosí strýčka (AI), aby jim vysvětlil, jak se míchá střelný prach.
2. Kriminálky a kartely: Tohle už je méně vtipné. Optimalizace výroby drog nebo vývoj jedů. Představte si drogového vařiče, ale místo toho, aby musel studovat chemii, má v kapse ChatGPT. Tady je riziko mnohem bezprostřednější, protože uvařit lepší metamfetamin je technologicky o dost snazší než vyrobit novou pandemii.
3. Státní aktéři: A to je vrchol absurdity. Státem sponzorovaní hackeři a vědci se snaží z chatbota dostat analýzu zranitelnosti zdravotních systémů nebo informace o zbraních. Člověk by si myslel, že totalitní režimy mají na tohle vlastní experty, ale zřejmě je levnější zaplatit 20 dolarů měsíčně za prémiovou verzi AI, než financovat celý výzkumný ústav. Skutečnost, že státní aktér pohoří na tom, že mu AI odpoví: „Omlouvám se, ale jako umělá inteligence vám nemohu pomoci s vývojem biologických zbraní,“ má v sobě nádhernou poetiku. A bohužel to fakt není žádná záplata, i když si pořád můžeme namlouvat, že když to vývojáři napišou do preambule, tak to tak je... Na to ovšem platí jedno české slovo na tři písmena.

DNA poštou a záchranná brzda

Co zpráva Anthropicu (pochopitelně, z podstaty věci) detailně neřeší, ale co je z hlediska mých poznatků ten skutečný „bottleneck“ (úzké hrdlo), je fyzická syntéza.Řekněme, že vám AI navrhne dokonalou sekvenci viru. Vy si ji nemůžete jen tak vytisknout na domácí 3D tiskárně. Musíte si tuto DNA nechat vyrobit. A tady nastupuje reálný svět: společnosti, které syntetizují DNA na zakázku (tzv. „cloud labs“), dnes mají povinné screeningové systémy. Když jim pošlete objednávku na kód nápadně připomínající virus pravých neštovic s vylepšením, nevyfakturují vám to. Místo toho zvednou telefon a zavolají FBI či iné kluky s flintami. AI tedy zrychluje první krok, ale naštěstí neobejde ty fyzické bezpečnostní bariéry. Zatím.

Jenže my tu máme CRISPR

Novým trendem je využití technologie CRISPR, která zjednodušuje úpravu genů natolik, že se o to pokoušejí amatéři v domácích podmínkách. Tito „biohackeři“ se snaží o zdánlivě nevinné kousky, jako je například:

• Vytvoření svítících kvasnic pro domácí pivo.
• Změna barvy bakterií.
• Základní genetické úpravy rostlin.

AI jim v tom pomáhá, protože jim může vysvětlit složité protokoly a pomoci s návrhem experimentu. Problémem je, že i když je technologie dostupná, domácí laboratoř postrádá jakékoli bezpečnostní opatření. Hrozí riziko kontaminace, neúmyslného vytvoření něčeho škodlivého, nebo prostě jen špatného nakládání s biologickým materiálem. Co začíná jako koníček, může bez odborného dohledu vést k nepředvídatelným a potenciálně nebezpečným výsledkům, které pak AI pomáhá šířit bez vědomí o rizicích.

Závěr: AI není Terminátor, je to Pandořina kuchařka

Zpráva od Anthropicu ukazuje jednu naprosto klíčovou věc: firmy vyvíjející AI musí fungovat jako digitální vyhazovači. Skutečnost, že Anthropic tyto snahy aktivně monitoruje, blokuje a hlásí úřadům, je jediný správný postup.
Umělá inteligence je fantastický nástroj. Může nám pomoci vyvinout léky na rakovinu v rekordním čase, analyzovat klimatické změny a napsat za nás nudné e-maily. Její „dual-use“ (podvojné využití) povaha ale znamená, že stejný algoritmus, který umí navrhnout lék, umí navrhnout i jed.
Riziko nespočívá v tom, že AI dostane vlastní vědomí a rozhodne se nás vyhladit pomocí virů. Riziko je v tom, že zdemokratizuje přístup k velmi nebezpečným znalostem. Sníží vstupní bariéru do světa, kde by vstupenka měla být podmíněna lety etického tréninku a hluboké odbornosti.

Takže ano, biologické zneužití je reálné riziko. Ale pokud udržíme ochranné filtry dostatečně silné, můžeme dál v klidu spát. Tedy alespoň do chvíle, než si kutilové v garážích nezačnou stavět vlastní syntetizátory DNA ze starých mikrovlnek. Pak nám už nepomůže ani ta nejchytřejší umělá inteligence.