V poslední době vzbudily velký rozruch deepfake systémy s umělou inteligencí, které dovedou vyrobit méně či více přesvědčivou videokopii nějaké reálné osoby. Anebo audiokopii, kde je to ještě jednodušší. Z takových technologií jde strach. Deepfake podvrhy politiků a celebrit se stávají problémem pro fungování společnosti, například během volebních kampaní či krizí.
Hlasové podvrhy mohou zasáhnout kohokoliv. Když vám někdo zavolá, nemůžete si už být úplně jistí, zda to je anebo není člen rodiny či přítel v závažné nouzi. Další problém spočívá v tom, že takový deepfake může posloužit k prolomení ochrany založené na rozpoznávání hlasu. Otázkou je, jak se proti takovým technologiím bránit.
Už se objevily metody, které umožňují do určité míry rozpoznat, že máme co do činění s audio nebo videopodvrhem. Jsou ale i jiné možnosti. Ning Zhang z americké Washington University in St. Louis a jeho kolegové vyvinuli inteligenci AntiFake, která jako jedna z prvních umožňuje chránit hlas před tvorbou deepfake podvrhů. Taková inteligence zařídí, že pro deepfake inteligence bude mnohem obtížnější naklonovat lidský hlas.
Zhang shodou okolností použil pro dobrou věc technologii temné strany. AntiFake je založená na nástroji z výbavy kyberzločinců, ale teď, jak říká Zhang, nás může před kyberzločinci chránit. V podstatě jde o to, že AntiFake naruší mluvený hlas člověka pro elektronická zařízení natolik, že si s ním deepfake inteligence neporadí.
Pokud se deepafake inteligence pokusí vytvořit klon hlasu chráněného inteligencí AntiFake, výsledek se vůbec nepodobá původnímu lidskému hlasu. Dosavadní testy ukázaly, že ochrana AntiFake je úspěšná zhruba v 95 procentech případů. Zároveň se zdá, že tohle je situace, do které se vloží nelítostná Červená královna. Dojde k závodu ve zbrojení, v němž budou soupeřit pokročilé deepfake inteligence s pokročilými obrannými inteligencemi. Do budoucna máme o zábavu postaráno.
Technologie AntiFake je kompletně volně dostupná zde.
Video: Deepfake: Tips to identify and safeguard yourself from this AI-powered hoax
Literatura
Konverzační inteligence ChatGPT halucinuje simulace Linuxu a inteligencí
Autor: Stanislav Mihulka (07.12.2022)
Ghostwriter je strašidelný psací stroj posedlý umělou inteligencí GPT-3
Autor: Stanislav Mihulka (15.12.2022)
Inteligence GPT-4 si najala člověka kvůli překonání testu CAPTCHA. A lhala mu
Autor: Stanislav Mihulka (17.03.2023)
Experiment Wolwerine: Inteligence GPT-4 zrodila samoopravné programy
Autor: Stanislav Mihulka (12.04.2023)
Umělou inteligenci DarkBERT vycvičili na temné straně internetu
Autor: Stanislav Mihulka (26.05.2023)
Podvádění podvodníků: Bezpečnostní experti povolali bohyni Apaté
Autor: Stanislav Mihulka (02.07.2023)
Diskuze:
Jiná řešení
Mintaka Earthian,2023-12-02 23:27:42
Souhlasím s tím, že schopnost vyrábět napodobeniny hlasu a obrazu silně narušuje důvěryhodnost běžných elektronických komunikačních kanálů.
Jistou formou ochrany je přítomnost sdělení na "důvěryhodném zdroji". Bohužel "důvěryhodnost" je dnes hodně ohýbaný pojem.
V praxi tedy spíš zamíříme k prostředkům, které se již teď používají pro potvrzení a ověření pravosti, digitálních dat, jakými jsou hashe, integritní prvky, elektronické podpisy, blockchainové technologie. A bude třeba tyto technologie lépe integrovat do nástrojů pro tvorbu a konzumaci obsahu.
Ani tak nebude 100% jistota, ale ta nebyla ani v realitě před příchodem počítačů.
Re: Jiná řešení
Jirka Naxera,2023-12-03 00:07:27
Presne tak. Co technologie umoznuje (a cim dal, tim lepe a snadneji, mereno v desitkach let a vice) je plna autentizace zdroje informaci. Takze cim dal tim vice muze zaviset na budovane povesti "zdroje informaci" - novinare, reportera, analytika etc.
Coz presne jak pisete neni zadna zmena proti drivejsku, naopak.
Re: Re: Jiná řešení
D@1imi1 Hrušk@,2023-12-03 13:42:37
To je hezké, jenže to je takové: "Ono by to šlo, kdyby se celospolečensky chtělo." Připodobnil bych to k fungování moderních demokracií - systém je technicky dostatečně kvalitní, aby zamezil přístup k moci zlodějům, lhářům, demagogům a sociopatům. Zároveň přesně tahle sorta tvoří velkou část, ne-li drtivou většinu vrcholných politiků jak u nás, tak ve světě. Problém je, že aby je volby odstavily od moci, museli by voliči splňovat tři podmínky:
1. Volit rozumem, ne emocemi (snadno se manipulují)
2. Mít rozum alespoň na průměrné (raději nadprůměrné) úrovni
3. Aktivně si zjišťovat informace. Nejjednodušší a většinou voličů preferované je volit "pána, kterého znám z novin". Jenže charakterní politici se do masmédií dostanou jen zřídka.
Tyto tři podmínky splňuje tak 10%, maximálně 20% voličů, čímž je zajištěné, že politici, kteří si svými činy budují reputaci KVALITNÍCH lidí, nemají praktickou šanci získat ve volbách většinu.
"Budování pověsti zdroje informací" je na tom stejně. 10% zvídavých čtenářů (diváků) si bude informace ověřovat a 90% si bude informace vybírat jen podle toho, jestli zapadají do jejich preferovaného vidění světa.
Ještě mě napadá analogie s internetovými srovnavači zboží. Deset let nazpět byla drtivá většina recenzí centralizovaná na Heurece a šlo si tím pádem podle těch recenzí celkem kvalitně vybírat. Potom se Heureka nepohodla s Alzou a od té doby je tam recenzí málo. Některé zboží, například notebooky, jsou navíc sezónní a najdete je jen u jediného exkluzivního prodejce, čímž hodně produktů zůstává téměř či zcela bez recenzí. Po sezóně se typ maličko změní, ale v systému už je to nový produkt. Zkrátka s reputací se dá dobře pracovat, když máte stabilní subjekty a stabilní centrální systém pro její hodnocení. Existuje podobná, masově využívaná platforma, která by hodnotila novináře?
Navíc i ten novinář často musí vycházet ze zdrojů, které z principu nemohou mít žádnou reputační historii. Např. nějaký podnikatel poskytne audionahrávku, na které ho politik žádá o úplatek. Ten podnikatel se ve veřejném prostoru nikdy nevyskytoval, takže nemá reputaci žádnou, ale to zároveň neznamená, že ten politik o úplatek nepožádal. A co s tím má potom poctivý novinář dělat? Jedině může zdůraznit, že pravost nahrávky nebyla ověřena. Jenže to se týká prakticky všech informací od náhodných zdrojů. A nejhorší je, že pokud nebudou dostatečně spolehlivé nástroje na rozpoznání deepfake, nezjistí pravost ani policie a případ pro nedostatek důkazů odloží.
Re: Re: Re: Jiná řešení
Jirka Naxera,2023-12-03 21:20:53
ad volby, no mam pocit, ze to, co resite, je ta nejmensi cast problemu. Dejme tomu, ze vsichni lide se od ted zacnou chovat naprosto logicky (ne az tak jako modrooci ostrovane) - koho budou volit?
Obavam se, ze zapadni podoba demokracie jednozncne dojede na neco podobneho, na co dojel i komunismus, jen trochu pozdeji - selekcni mechanismy, ktere preferuji zlodeje a psychopaty, ani jinak dopadnout nemohou (a ze se soucasni zlodeji a psychopati u moci postaraji, aby mezi ne nepronikl ne-zlodej ne-psychopat je celkem jasne)
ad novinar s dobrou reputaci a divny zdroj - no postupoval bych presne tak, jak postupujeme ve vede. Kdyz neco patri do ucebnic, tak piseme ve stylu "takhle to je", pripadne opatrnejsi formulace "podle soucasnych znalosti ...", kdyz je neco spekulativni hypoteza, tak napiseme, ze "ER=EPR je jedna ze spekulativnich hypotez", abychom rozlisili status, a kdyz neco nevime, tak napiseme "jestli jsem to pochopil trochu spravne, tak .... ale nerozumim tomu", aby bylo jasne, ze na tuhle informaci se nelze spolehnout.
To same uz funguje treba i v zpravodajstvi o valecnych konfliktech. Rozumne weby rozlisuji, jestli jde o potvrzenou informaci (pripadne i jak), nebo "proslycha se, ze se rusum zhroutila obrana u Aavdivky, ale zatim neni informace potvrzena" apod. - tim, ze u nekvalitni informace napisete, ze je nekvalitni si vlastni reputaci neposkodite, a pritom muzete byt aktualni. Na druhou stranu, kdyz neco v danem konfliktu natocite a pak zverejnite, tak jsou zabery tak du8veryhodne, jak jste duveryhodny Vy.
Re: Re: Re: Re: Jiná řešení
D@1imi1 Hrušk@,2023-12-04 00:24:30
Kolik procent konzumentů zpravodajství přísně uplatňuje kritické myšlení jako ve vědě? :) Bylo by zajímavé vzít skupinu lidí s IQ kolem 100, nechat je přečíst článek s poznámkami o nepotvrzených informacích a pak je na závěr nechat vlastními slovy popsat, jak se vyvíjí průběh války. Správná odpověď by byla, že zatím víme kulový, ale jsem si téměř jistý, že hodně lidí by shrnulo, že vývoj je na dobré cestě.
Účelem fake news nebývá přesvědčit všechny, stačí strhnout na svoji stranu alespoň část. Zároveň obtížnost technického odhalení deepfake utvrzuje konspirační teoretiky v jejich názorech, protože o to méně důvěřují oficiálním zdrojům. Takze neodhalitelný deepfake by byl problém pořádný a reputace zdrojů ho řeší jen zčásti.
Ještě jsem si vzpomněl na jeden citát: že (totalitní) propaganda nespočívá v tom, o čem se píše, ale v tom, o čem se psát nesmí. Novinář, který bude psát vždy pravdu, ale jen když se hodí do krámu, může mít "čistou vizitku" a přitom být součástí propagandy. Což je voda na mlýn dezinfowebům, které tu nehodící se část pravdy rády doplní a ještě si něco kreativně přidají.
Re: Re: Re: Re: Re: Jiná řešení
Jirka Naxera,2023-12-04 04:13:00
Ono dost zalezi, ceho tim chceme dosahnout.
Jako nedelam si nejmensi iluze, ze existuje zpusob, jak za nekoho nahradit chybejici rozumove nadani. (O nejen totalite vime moc dobre, ze sice dokaze uspesne filtrovat zpravy, ale nikoli smerem k pravdivym, ale spise k "approved lies".)
Stejne jako o vede piseme pro lidi, kteri to alespon castecne nejak pochopi, tak se obavam, ze budeme muset zustat u te valky u podobne cilove skupiny.
BTW Nejvetsi voda na mlyn desinfo webu je, kdyz oficialni propaganda lze/mlzi/zamlcuje/zvelicuje/prekrucuje zpusobem, ze je to jasne i onomu jedinci s IQ100. Konkretnich prikladu z nasi milovane petifialove vlady by se naslo desitky, u minule milovane vlady take, vlastne u vsech polistopadovych a predlistopadove radsi nejmenovat...
Hmm?
Jirka Naxera,2023-12-02 19:10:29
Takze si to shrneme:
1.Vezme to existujici audio, a nejakym zpusobem ho to zmodifikuje.
2.Upravene audio je nepouzitelne pro soucasne deep-fake generativni modely.
Takze, jinak receno - jednak (jak je v clanku napsano), nesmi dojit k podobnemu prolomeni, proste k nauceni anti-anti-deepfake. To samo je s otaznikem.
Ale - k utocnikovi se nesmi dostat neupraveny vzorek. Neboli obet nesmi mluvit na verejnosti (smerovy mikrofon), nesmi telefonovat (vubec! nebo mit upraveny zvuk, co jde do GSM. Hmmm).
Jestli je attack vector obejiti hlasove autentizace, tak se da cekat, ze utocnik k obeti uz nejaky pristup ma. No nevim, nebyl bych takovy optimista.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
