Tenhle svět je deepfake. Kredit: Medium.

Technologie Deepfake už ve svém názvu snoubí umělou inteligenci a podvod. Je to velice důmyslná, velice zábavná, a také velmi nebezpečná záležitost. Deepfake dokáže obstojně věrohodně syntetizovat umělé fotky a videa, která kombinují již existující snímky či videosekvence s vizuální podobou cílového objektu, což může být celebrita, politik anebo kdokoliv z nás. Tímto postupem vzniknou falešné dokumenty, které zobrazují osoby v situacích či akcích, které se ve skutečnosti nikdy nestaly. Britský badatel Garfield Benjamin ze Solent Univerzity v Southamptonu navrhuje možná řešení problémů, které deepfake technologie brzy způsobí anebo již na nich pracují.

Garfield Benjamin. Kredit: G. Benjamin.

Tyto pozoruhodné technologie původně vznikly v pornoprůmyslu, protože zákazníci milují sex známých osobností. Postupně se ale zlepšily a dnes již nemají daleko k dokonalosti. Což je problém. Stává se z nich nástroj pro individuální teror vyhlédnutých obětí, ale i nesmírné riziko, protože už svojí podstatou podrývají už tak otřesenou důvěru dnešních lidí v politické instituce a společnost jako takovou.

V dnešní době jsme svědky toho, jak rozmanité fake news, včetně těch na první pohled bláznivých, mají bohužel nemalý dopad na smyšlení a chování řady lidí. Kvůli deepfake technologiím, které produkují fotky a videa prakticky nerozeznatelná od těch pravých, se tyto potíže dramaticky prohlubují. V ohrožení je celý politický systém, také právní vztahy, a rovněž média, ponecháme-li stranou osudy jednotlivců, které by ale rovněž mohly deepfake útoky naprosto zničit. Reputace je velmi ožehavá záležitost, a i když se ukáže, že jde o nesmyslné obvinění, tak je důvěra v postižené instituce a lidi na dlouho otřesená.

Problémy s deepfake přinášejí celou řadu znervózňujících scénářů. Videa už nebude možné používat jako důkazy u soudu. Zprávy se možná zredukují na dohady o tom, co je skutečný záznam událostí a co nikoliv. Nejspíš se objeví umělé inteligence světlé strany síly, které budou odhalovat deepfake produkty. A možná se objeví i celebrity a politici, kteří nebudou skuteční, ale půjde o deepfake osobnosti. Nebude to asi úplně snadný svět pro život.

Solent University.

V dnešní době už naplno propukly „závody ve zbrojení“ mezi tvůrci deepfake i fakenews a těmi, kdo se je snaží detekovat a uvádět na pravou míru. Podle Benjamina je ale problém mnohem hlubší. Pouhá možnost existence deepfake produktů totiž podrývá společenskou důvěru, podobně jako možnost hacknutí demokratických voleb. Současná společenská realita je založená na určitém nastavení důvěry a zodpovědnosti. Pro Benjamina to není konec pravdy jako takové, ale konec důvěry v pravdu, což je téměř stejně děsivé. Tradiční pevné body v normálně fungující západní společnosti, pokud jde o fakta, jako doposud byla vláda, úřady nebo tisk, už do budoucna nebudou na zajištění důvěry stačit.

Co s tím?

Nepochybně se objeví nové zákony, které budou regulovat a v případě potřeby trestat používání deepfake. Samotná praktická politika a zákony ale základní pilíř důvěry ve společnosti nezachrání. Benjamin vidí řešení ve tvorbě nových forem společenské shody, konsenzu, a také alternativních forem důvěry.

Jednou z možných cest bude decentralizace důvěry, tak jako již dnes dochází k decentralizaci zpravodajství a řady dalších fenoménů. Garance věrohodnosti by měla přejít z malého počtu institucí na celou řadu lidí i organizací s dobrou reputací. Mohlo by to fungovat jako blockchain, čili jako decentralizovaná distribuovaná databáze určitých záznamů, které jsou důkladně jištěné proti útokům zvenčí i zevnitř.

Důvěru by mohly udržet při životě také více demokratické formy vlády i žurnalismu, jako je například systém tekuté demokracie (liquid democracy), v němž lidé buď mohou hlasovat přímo anebo dočasně přenést své hlasy na vybrané delegáty. Veřejnost tak může směřovat svou důvěru tam, kam uzná za vhodné. Stejně tak se více demokratizuje i zpravodajství, v němž tradiční novináři pracují se sociálními médii a tvoří zprávy z mnohem rozmanitějších zdrojů. Zásadní problém je samozřejmě ohlídání reputace klíčových lidí, kteří mohou být a také nepochybně budou napadáni, ať jednotlivci nebo nepřátelskými aktéry větší váhy. 
Deepfake technologie jsou tady, brzy se určitě objeví nenápadné nebo i vážné skandály, například během voleb či jiných významných událostí. Je tedy nejvyšší čas pracovat na budování důvěry v nové situaci a intenzivně přemýšlet o budoucnosti společnosti. A v tom nelze než s Benjaminem souhlasit.

Video: You Won’t Believe What Obama Says In This Video!

Literatura

The Conversation 6. 2. 2019.