A poslední slovo má...

... člověk nebo stroj? Robotická budoucnost už je vlastně přítomností a dilemata podobná těm, která museli řešit nešťastní piloti boeingů 737 max nás mohou i v běžném životě čekat za nejbližším rohem.

Obrazně řečeno... zatím. Zoufalý souboj o přežití lidí za kniplem se softwarem moderního letadla budiž varováním. Není ještě dost informací, ale vypadá to, že software (stroj) vražedně zvítězil. Reální mrtví lidé jsou. Umělá inteligence rovněž.

Od roku 1921 zná lidstvo díky Karlu Čapkovi a jeho hře RUR pojem ROBOT  a celkem ví, co si pod tím představit

Od roku 1942 známe díky panu Isaaku Asimonovi tři zákony robotiky:

1) Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.

2) Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.

3) Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.

Je to klasika, odhlédněme od  pozdějších modifikací a aktualizací jiných autorů, filosofů a novátorů, jako třeba Davida Langforda, který zmírnil hned první pravidlo ve smyslu, že robot může ublížit či zabít pachatele trestných činů (ovšem velící úřední osoba byla stále prvním zákonem chráněna).

A teď realita. Ani žádný opravdický robot, "jen" pouhý software, nedovolí člověku - kapitánu letadla - napravit pravděpodobnou technickou závadu čidla za pár dolarů a navzdory lidským povelům navede letadlo plné lidí do střemhlavého letu k zemi.

Prvotním cílem vyšetřování leteckých nehod není potrestat viníka, ale nalézt příčiny a odstranit je pro příští bezpečnost. I tady se tak jistě stane a software bude patřičně upraven.

Vyšší úroveň je ale jinde. Stejně jako má (snad) dosud i ten tisíce kilometrů vzdálený operátor bojového dronu poslední slovo o tom, zda cíl - samostatně nalezený, vyhodnocený, sledovaný a strojem/robotem nabídnutý ke zničení - má být opravdu zničen, tak podobně bych zavedl i ve všech ostatních aplikacích jednoduchý, dejme tomu "nultý" zákon robotiky: POSLEDNÍ SLOVO MÁ ČLOVĚK.

Jeden příklad za všechny. Povinná vybavení aut plánovaná Evropskou komisí, ať už se jedná  o automatické zastavení při zjištění únavy řidiče, nemožnost nastartování při zjištění alkoholu v dechu řidiče (či dokonce spolujezdce!), nemožnost překročení maximální rychlosti. Beru je, ale NE BEZ   ALTERNATIVY VYPNUTÍ.

Napadá mne mnoho situací, která budou člověka nutit řídit i za těchto okolností, klasický převoz zraněného či rodičky do nejbližší nemocnice či jinam pro pomoc známe všichni. Najet autem jako zbraní do člověka, který na mne míří samopalem je asi mnohem méně pravděpodobné. ale možné. I český právní řád ale zná přece termíny jako krajní nouze či nutná obrana.

Najděte si prosím, co znamenají a k čemu jsou určená. Nemám nic proti tomu, aby podobná přestoupení strojových omezení byla on-line nahlášena úřadům a objektivně řešena. Protože i marginálně překročit omezenou rychlost může v krajní situaci zachránit život, tak stojí zato ponechat člověku možnost obecně platná pravidla pod tlakem extrémní situace překročit. A zodpovídat se z toho, nést odpovědnost.

A jelikož stroj ani sebedokonalejší robot nikdy podobnou zodpovědnost neponese, pak se moc přimlouvám za jednoduché řešení : u každého stroje, softwaru, robotu musí mít člověk možnost jej kdykoli vypnout. Tlačítko "OFF", to je vše, co po robotech chci. Mít nad nimi moc.