Jak přelstít umělou inteligenci? Kredit: Thys et al. (2019).

Umělé inteligence jsou boží. Chytré, rychlé, vytrvalé, bezcitné a s neuvěřitelnou chutí najít v ohromné záplavě dat požadovanou informaci. Jenomže, jak potvrdí každý fanoušek série o terminátorech, inteligence nemusejí být vždy úplně kamarádské. Na rozdíl od Elona Muska se nemusíme automaticky bát každé umělé inteligence, která je chytřejší než kalkulačka. Nicméně, nebude na škodu být ve střehu a mít plán pro případ, že by se chopila vlády nějaká zlovolná inteligence nebo třeba stabilizátoři společnosti se zálibou v čínských šmírovacích technologiích.

Simen Thys vpravo. Kredit: Thys et al. (2019).

Trio vědců belgické Katholieke Universiteit Leuven zjistilo, že přinejmenším soudobé inteligence pro rozeznávání lidských postav nejsou všemocné. Simen Thys, Wiebe Van Ranst a Toon Goedemé přišli na to, že je možné vybraný systém s umělou inteligencí zmást vytvořením určitého obrázku, který drží na svém těle rozpoznávaná osoba. O svém podivuhodném hacku sepsali vědeckou studii a natočili video.

Aby soudobá umělá inteligence něco uměla, jako třeba rozeznávat objekty, tak ji na to její tvůrci musí vycvičit. Takové umělé inteligence obvykle trénují na mnoha tisících objektech, které náležejí do určitých kategorií, dokud si nevytvoří pravidla, podle nichž pak objekty mohou rozeznat. Dřívější výzkum ale ukázal, že podobné systémy je možné přelstít, pokud jim ukážete něco, na co nebyly trénované. Thys a spol. v tomto případě použili obrázek s lidmi, kteří drží barevné deštníky. Takové obrázky jsou teď novým pozoruhodným fenoménem a říká se jim „adversarial patches“, česky by to mohlo být třeba „rozporné skvrny“.

Rozporná skvrna. Kredit: Brown et al. (2017).

Jak se umělé inteligence stávají chytřejšími a výkonnějšími, tak je soukromé společnosti i vlády začínají používat v praktických aplikacích. Jednou z vykřičených aplikací jsou přitom systémy pro rozeznávání nežádoucích osob, ať už to jsou teroristé, kriminálníci, disidenti nebo lidé, co nepozdravili tajemníka strany. Podle nedávného výzkumu je možné takové systémy přelstít třeba speciálními brýlemi. A teď se ukazuje, že umělé inteligence neobstojí ani vůči vhodně navrženým rozporným skvrnám. Vizuální hack je pošle do kolen.

Thys a jeho společníci se rozhodli přelstít konkrétní systém umělé inteligence pro rozeznávání lidí YoLo(v2). Badatelé vytvořili různé typy obrázků, které pak testovali tak dlouho, dokud nenašli takový, který zmátl inteligenci obzvláště účinně. Aby obrázek s lidmi a deštníky fungoval, tak ho experimentátoři museli držet uvnitř pomyslného obdélníku, který si umělá inteligence vytváří při rozhodování o identitě zkoumaného objektu. A rozporná skvrna s lidmi a deštníky funguje na inteligenci systému YoLo(v2) skvěle. Bez tohoto obrázku inteligence zcela v pohodě rozpoznává postavy. Když si ale člověk drží tuhle rozpornou skvrnu u pasu, tak je pro inteligenci YoLo(v2) neviditelný. Terminátoři, na nás si nepřijdete!

Video:  Generating adversarial patches against YOLOv2


Video: Adversarial Patch


Literatura
TechXplore 24. 4. 2019, arXiv:1904.08653.