Umělé inteligence a autonomní drony stále víří emoce a obavy. Podle řady vyjádření je to sice často kvůli sci-fi thrillerům, ale bez ohledu na terminátory, technologický vývoj stále běží a podobné diskuze rozhodně jen tak neutichnou. Olej do ohně přilila událost, ke které sice došlo už v březnu 2020, ale na světlo vyplavala až v těchto dnech.
Podle nedávno zveřejněné zprávy OSN mělo v březnu 2020 během složitého konfliktu v Libyi dojít k tomu, že autonomní dron zaútočil na lidský cíl. To by samo o sobě nemělo být moc divné ani pohoršující, k tomu dochází prakticky denně. Problém je v tom, že povel k útoku dala samotná umělá inteligence dronu a nikoliv lidský operátor.
Je to samozřejmě tak trochu hra se slovy, protože dotyčnou umělou inteligenci rovněž vytvořili lidé a jde o pouhý nástroj. Nicméně, mnozí to vnímají jako zásadní zlom. Až doposud všechny armády a provozovatelé bojových dronů ujišťovali veřejnost, že v případě cílených útoků na lidi je vždy nutný bezprostřední souhlas či povel člověka. Od této chvíle to již podle všeho neplatí.
Podle zmíněné zprávy mezinárodně uznávaný libyjský premiér Fayez al-Sarraj spustil 27. března 2020 operaci Peace Storm, která zahrnovala útoky autonomních dronů proti jednotkám Chalífy Haftara. Na Haftarovy konvoje pak útočily autonomní systémy jako je turecký sebevražedný dron STM Kargu s pokročilou umělou inteligencí. Podle dostupných informací byly tyto drony naprogramovány, aby vyhledávaly cíle a pak na ně útočily, aniž by se do věci vložil lidský operátor. K takovým útoků opravdu došlo a je to zřejmě poprvé, kdy dron útočil na člověka po rozhodnutí umělé inteligence. Navzdory sebevědomým zpravodajským headlinům ale není jasné, zda při těchto útocích někdo zahynul či nikoliv.
Kargu je sofistikovaná kvadrikoptéra, která byla vyvinuta pro asymetrické válčení a protiteroristické operace. Podle výrobce STM (Savunma Teknolojileri Mühendislik) je efektivní proti statickým i pohyblivým cílům, přičemž využívá zpracování obrazu v reálném čase a pokročilou umělou inteligenci.
Dosavadní zkušenosti ukazují, že Kargu je účinné proti pěchotě. Vojenské jednotky dnes obvykle nejsou cvičené reagovat na podobné útoky. Po útoku Kargu nebo podobných sebevražedných dronů obvykle následuje chaotický ústup či úprk. Drony přitom mohou neustále napadat ustupující jednotky a zvyšovat jejich ztráty. V Libyi se to podle všeho osvědčilo, stejně jako útoky Kargu na Haftarovy protiletecké systémy Pantsir S-1 ruské provenience.
Human Rights Watch a podobné organizace vyjadřují velké znepokojení a pochyby, že plně autonomní bojové drony dodržují mezinárodně uznávané humanitární standardy. Proto Human Rights Watch vyzývá k preventivnímu zákazu vývoje, výroby a používání plně autonomních dronů. Takové výzvy ale za současné situace jen těžko padnou na úrodnou půdu.
Cynik by dodal, že je naopak klidně možné, že vhodně naprogramovaná umělá inteligence bude dodržovat humanitární standardy mnohem lépe, než průměrný lidský bojovník jednotek zúčastněných v libyjském konfliktu, odkud často přicházejí zprávy o různých zvěrstvech. Smysluplnější jsou námitky proti nedokonalé AI smrtících dronů, díky čemuž může docházet k fatálním chybám. To je ale problém spíše technického rázu, který je možné řešit dalším vývojem dronových inteligencí.
Video: STM KARGU (Autonomous Tactical Multi-Rotor Attack UAV)
Literatura