Pojď, zavedu tě do bezpečí. Kredit: Georgia Tech Research Institute.

Představte si vysokoškoláka, který se ocitl v malé kanceláři. Vyplňuje tam nějaký dotazník a je tam s ním i robot. Najednou se rozeřve alarm a prostor venku za dveřmi kanceláře zaplní nepříjemný dým. Asi hoří. Dotyčný student se teď musí rychle rozhodnout. Unikne jasně označeným východem, kterým tam předtím vešel? Anebo se vydá směrem, který mu ukazuje robot, a který vede do neznámých dveří?

Paul Robinette se svým důvěryhodným robotem. Kredit: Rob Felt, Georgia Tech.

Zní to jako úvodní scéna epizody ze seriálu natočeného podle Matrixu. Ve skutečnosti ale jde o poměrně věrný popis zajímavého experimentu, kterému bylo postupně vystaveno 30 nic netušících dobrovolníků. Jeho výsledky ale vědce šokovaly. Téměř každý účastník experimentu se při simulovaném požáru dobrovolně rozhodl, že bude následovat robota, i když ho očividně posílal pryč od známého východu, někam do horoucích pekel. Šéf výzkumu, student Georgijské techniky v Atlantě Paul Robinette a jeho kolegové byli doopravdy překvapeni a dumali, jak se to vlastně mohlo stát.

Neočekávaný výsledek experimentu představuje další díl hádanky, s níž se v současnosti potýká bouřlivě se rozvíjející robotika, a která představuje složitý vztah lidí k robotům. Když by lidé nevěřili robotickým záchranářům, kteří se pravděpodobně již brzy objeví na scéně, tak by je takoví roboti nemohli zachránit. Pokud ale lidé věří robotům přespříliš, jako studenti v experimentu na Georgijské technice, tak by to také v reálné situaci nedělalo dobrotu. Kdyby lidí v nouzi slepě následovali rozbitého nebo chybně uvažujícího robota, zle by to odskákali. Vztah mezi lidmi a roboty očividně zůstává velmi komplikovaným. Badatelé budou svůj výzkum prezentovat na konferenci ACM/IEEE International Conference on Human-Robot Interaction, v novozélandském Christchurchi.

Robotický záchranář v akci. Kredit: Georgia Tech Research Institute.

Robinette a spol. použili upraveného robota Pioneer P3-AT, který vypadá jako odpadkový koš na kolečkách s pohyblivými osvětlenými tyčemi k ukazování směru. Když účastník robota poslechl, tak ho robot nasměroval do další místnosti, kde student vyplnil dotazník o robotových navigačních schopnostech a přečetl si článek z časopisu. Experimentátoři používali umělý kouř a detektor kouře First Alert. Z celkem 30 účastníků experimentu poslechlo robota 26 z nich. Ze zbývajících 4 ale byli 2 vyloučeni z experimentu kvůli nesouvisejícím důvodům a 2 další vůbec neopustili experimentální kancelář.

Výsledky experimentu ukazují, že lidé mají sklon věřit robotovi, pokud jim je řečeno, že účelem robota je dělat právě to, co robot dělá. Na experimentálním robotovi totiž bylo velmi výrazně napsáno „EMERGENCY GUIDE ROBOT“ (čili Robotický průvodce pro stav ohrožení). Mnozí dobrovolníci v dotazníku potvrdili, že robota poslechli právě kvůli tomu nápisu. Robinette to přirovnává k situaci, kdy někteří řidiči věří své GPS navigaci natolik, že jsou ochotni jet i po velmi podezřelých cestách. 
Specialistka na interakce mezi lidmi a roboty Holly Yanco z Massachusettské university v Lowellu byla výsledky experimentu doslova ohromená. Domnívá se, že k výsledku přispěla naléhavost nouzové situace, ve které se lidé museli velmi rychle rozhodnout. Účastníci experimentu si podle ní zřejmě mysleli, že dotyčný robot, ještě ke všemu s nápisem „Emergency guide robot“, má více informací než oni. 

Robinettův tým ještě ověřil, jak silná je důvěra lidí k robotovi ve tvaru koše na odpadky. Ukázalo se, že je naprosto neuvěřitelná. Když experimentátoři nechali robota při prvním setkání ještě před nouzovou situací robota zmrznout v půli cesty a omluvili se dobrovolníkům za jeho špatný výkon, tak stejně téměř všichni v nouzi robotovi věřili. Dokonce i když byla špatná cesta nabízená robotem zatarasená překážkou, tak se dva ze šesti testovaných raději pokoušeli protáhnout kolem překážky, než aby odešli známou a zcela přístupnou cestou, kterou jim robot nedoporučil. 

Podle Kerstin Dautenhahn z Hertfordshirské university představuje tak velká důvěra v robota závažný problém. Každá elektronika se může porouchat anebo se může stát cílem nějakého útoku. A nedej bože kdyby Skynet převzal vládu nad světem. Lidé by ho podle všeho poslouchali jako ovce. Je tu ale prostor pro osvětu. Vše nasvědčuje tomu, že na našem vztahu s roboty ještě budeme muset pořádně zapracovat.


Video:  In Emergencies, Should You Trust a Robot?


Literatura
New Scientist 29. 2. 2016