Inteligence vstupují do informačních válek. Kredit: Pixabay, CC0.

V poslední době jsme zaplavováni propagandou plnou dezinformací. Neumíme si s tím poradit. Západní vlády jsou jako opařené. Zmůžeme se tak maximálně na těžkopádné vyvracení absurdních nesmyslů, které je sice dobře míněné, ale velice pomalé. Jako kdyby se boxer v zápase stále jen bránil. Nemůže vyhrát a neuhraje ani remízu. Podivuhodný případ umělé inteligence CounterCloud ukazuje, že možnosti, jak se důstojně zapojit do informační války, existují. Nejsou ani moc komplikované. Stačí jen chtít.

Renee DiResta. Kredit: Stanford Internet Observatory.

Letos v květnu ruský propagandistický kanál Sputnik, jak je jeho zvykem, opět vypouštěl ofenzivní tvíty s kritikou americké zahraniční politiky a s útoky na Bidenovu administrativu. To by samo o sobě nebylo nic zvláštního, dělají to pořád. Rozdíl oproti předešlým týdnům a měsícům byl ale v tom, že na každý propagandistický tvít zdatně odpovídal záhadný účet CounterCloud. Používal kvalitně sestavené tvíty, s odkazy na relevantní zprávy či články. Naordinoval proti dezinformátorům jejich vlastní medicínu.

Micah Musser. Kredit: CSET.

Jak zjistil portál Wired, za účtem CounterCloud je (zřejmě) osoba s přezdívkou Nea Paw. Zaslala lidem z Wired neveřejné tvíty CounterCloudu, a také zveřejnila video, v němž popisuje CounterCloud jako experiment s dezinformační umělou inteligencí. Paw tvrdí, že tvíty účtu CounterCloud, stejně jako články a zpravodajství, na které CounterCloud odkazuje, dokonce i novináře, kompletně generovaly algoritmy umělé inteligence. Podle expertů to vše působí přesvědčivě, ale není to možné detailně ověřit.

Paw o sobě říká, že je profesionálem v oboru kybernetické bezpečnosti. Preferuje prý anonymitu, protože někteří lidé považují podobné aktivity za nezodpovědné, což v České republice zní povědomě. Cílem bylo ukázat, jak snadné je využít umělé inteligenci k operacím v informačním prostředí. V projektu CounterCloud byla zapojena textová generativní inteligence od OpenAI a další nástroje umělých inteligencí pro vytváření fotografií a ilustrací. Celkové náklady na tento výkonný stroj pro informační protiúder údajně činily jen asi 400 dolarů. Jak je vidět, propagandě lze vzdorovat s vynaložením směšně nízkých prostředků.

Renee DiResta z výzkumného centra Stanford Internet Observatory, které se podílí na sledování online informačních kampaní, považuje materiály vytvořené projektem CounterCloud za velmi věrohodné. Zároveň je jasné, že v dnešní době již čelíme dezinformačním kampaním, které vedou umělé inteligence. Tým americké Indiana University Bloomington nedávno odkryl primitivní botnet, zaplavující online prostor krypto nesmysly, který byl zjevně poháněn inteligencí z rodiny ChatGPT. Badatelé varují, že stejná inteligence již zřejmě ovládá i sofistikovanější informační kampaně.

Analytik Micah Musser z projektu CyberAI Project výzkumného centra Center for Security and Emerging Technology (CSET) na Georgetown University a mnozí další varují, že kriminální skupiny, autoritářské režimy, korporace nebo třeba mainstreamové politické kampaně již mohou – a rozhodně budou – využívat umělé inteligence pro masivní produkci (dez)informačního obsahu. Jak se zdá, přežití civilizace bude záviset na 1. kvalitním výzkumu mediálního prostředí, 2. mediální sebeobraně jednotlivců, komunit a svobodných zemí, a v dlouhodobém výhledu na 3. promyšlené mediální výchově od mateřské školky.

Video: CounterCloud - AI powered disinformation experiment

Video: Renée DiResta(Stanford Internet Observatory): Disinformation & How To Combat It | '23 Upfront Summit

Video: Disinformation Expert Renée DiResta: We Have No Common Sense of Facts | Amanpour and Company

Literatura

ARS Technica 30. 8. 2023.