Lidé mají v genech superschopnost rozeznávat tváře. Mnozí si dokonce myslí, že v tom jsou dobří. Přesto ale lidé nedovedou rozlišit syntetické, tedy umělou inteligencí generované lidské tváře od těch pravých. Co je ještě horší, ukazuje se, že lidé považují takové syntetické tváře neexistujících lidí za reálnější.
Už teď je to velký problém. Realistické snímky falešných lidí se využívají v marketingu, reklamě, v politických kampaních, a v neposlední řadě ve špionáži a informačním válčení. Falešné tváře vytvářejí šikovné neurální sítě, typicky generativní kontradiktorní sítě čili GAN, které důmyslně napodobují evoluční závody ve zbrojení. Jsou to vlastně dvě inteligence, které trénují na ohromném souboru veřejně dostupných tváří, a také si jdou nelítostně po krku v tom, kdo udělá více realistický výtvor. Výsledkem jejich souboje jsou syntetické tváře.
Manos Tsakiris z University of London a jeho kolegové nedávno detailně studovali fenomén falešných tváří a jejich závěry jsou alarmující. Ukazuje se, že lidé nerozliší generované tváře od pravých. Dokonce tváře od umělých inteligencí považují za přesvědčivější, což je na pováženou. Podle nich to má vážné důsledky pro lidské chování v online světě. Syntetické tváře například mohou erodovat naši důvěru k ostatním lidem online, což se projevuje na našich postojích a komunikaci.
Tsakiris a spol. zatím nevědí, proč jsou pro nás generované lidské tváře přesvědčivější. Nepochybně to ale odráží pokrok ve vývoji umělých inteligencí, které se, možná nevědomky, naučily mačkat ta správná tlačítka v lidském mozku. Badatelé rovněž objevili zajímavou souvislost věrohodnosti tváří s jejich atraktivností. Ukazuje se, že tváře hodnocené jako méně atraktivní považujeme za reálnější. Inteligence GAN na to zjevně přišly taky.
Autoři studie se obávají, že věrohodnost generovaných tváří poškozuje společenskou důvěru, kterou máme vůči lidem, co je osobně neznáme. V experimentech potvrdili, že když lidé považují syntetické tváře za reálnější, tak do nich také vkládají více důvěry. Když se ale lidé dozvědí, že může jít o syntetické tváře, tak jejich důvěra k cizím lidem v online prostředí značně klesá, ať to jsou generované tváře anebo ne.
Jak zdůrazňuje Tsakriris, tohle je horká půda. Zmíněná reakce lidí na výskyt falešných tváří online totiž přináší negativa i pozitiva. Pokles důvěry v ostatní lidi je samozřejmě problematický pro soudržnost a fungování komunit i celé společnosti. Tsakriris s kolegy věří, že lidé jsou v zásadě dobří a že si zaslouží určitou bazální důvěru, i když je osobně neznáme. Na druhou stranu, jistá míra nedůvěry je zdravá a může zranitelné lidi chránit před podvodníky a propagandisty všeho druhu. Další věc je, že teď mohou nastoupit další umělé inteligence, které jsou výtečné v rozeznávání umělých tváří a mohou je například označovat na sociálních sítích výstražným symbolem.
Video: Ways of feeling the social and political world | Prof. Manos Tsakiris | AI Forward Forum
Video: Prof Manos Tsakiris - Interoception, Visceral Influence & The Affective Turn
Literatura
Deepfake videa by mohla zničit důvěru ve společnosti. Jak tomu čelit?
Autor: Stanislav Mihulka (18.02.2019)
Generátor fake news GROVER je ďábelská zbraň o dvou ostřích
Autor: Stanislav Mihulka (03.06.2019)
Děsivě snadné: Deepfake technologie editují mluvené slovo textem z klávesnice
Autor: Stanislav Mihulka (22.06.2019)
Diskuze:
GAN
David Nečas,2023-01-30 14:10:24
Namísto bombastických, leč zcela nesmyslných frází typu ‚jdou si nemilosrdně po krku, v tom, kdo udělá více realistický výtvor‘, šlo napsat, co je skutečná podstata GAN: Jsou to v zásadě dvě sítě, jedna se snaží generovat věci k nepoznání od skutečných – a druhá se snaží rozpoznat, co je generované a co skutečné. A v procesu vzájemného trénování se obě zlepšují, to je základní trik.
Hrozne
Marek Fucila,2023-01-29 23:42:06
Ako budem teraz vediet, ci ta fesanda, ktora ma tak pekne prosi o priatelstvo na Facebooku nie je vygenerovana fotka, ale naozajstna ukradnuta fotka realnej osoby? :)
NDC conference
Jiří Kocurek,2023-01-29 17:36:57
Záznam v angličtině: https://www.youtube.com/watch?v=-X-Q1pLcR2c
Ve zkratce: Generované obličeje z thispersondoesnotexist mají za sebou nijaké pozadí, většinou jen šum. Oči jsou stále na stejném místě jen s drobnými odchylkami. Kdo nevěří ať si najede kurzorem na monitor a obnovuje stránku. Naopak pokud je někdo vyfocený na ulici, typicky fotka z dovolené, tak se nejspíš jedná o osobu reálnou.
A kočky? Pro thiscatdoesnotexist.com platí podobná pravidla, rovněž je to portrét a nikoliv profil (zobrazení z boku). Nicméně nelze implikovat, že každá kočka i osoba focená z profilu je kreslená.
Re: NDC conference
D@1imi1 Hrušk@,2023-01-29 20:03:04
To je dodrý postřeh :-)
Ale bohužel (či bohudík?) ta AI asi nebude poslední iterací a vložení náhodného pozadí nebude těžký upgrade.
Jinak souhlasím s panem Naxerou. V podstatě nejde o problém. Problémem je třeba Deepfake.
Re: existuje...
Eva M,2023-01-29 12:51:28
.. ono totiž na internetu se najde ledasco...
teď právě nemohu najít návod, který by byl provázen rozjásaným ksichtíkem, tak jen malá nereprezentativní ukázka
https://www.sanaj-zdrave.cz/zdravy-magazin/az-85--lidi-v-sobe-nosi-parazity--patrite-mezi-ne--udelejte-si-test-priznaku-parazitu-v-tele/
Určitě není prof. Manos Tsakiris z University of London podobná neexistence jako např. generál Hammond (ano, ten z Hvězdné brány, nebo snad "jmenovec"?), který na internetu radí, jak se zbavit Raynaudova syndromu tím, že si vyhřívanými rukavicemi a ponožkami ohřejete ruce a naopak vystavíte intenzivnímu chladu zbytek těla?
Bohužel, zoufalí lidé dělají zoufalé věci.
Re: existuje...
Pavel Piskač,2023-01-29 13:06:21
To nevim.
Ale znám spoustu žen, co si ráno na obličej namaluji úplně jiný ksicht.
A jednou za čas si na hlavě upraví vlasy tak, že nejdou poznat.
A jsou i takové co si nechají implementovat silikonové předměty pod kůži, rovnat/zmenšovat nos, aplikovat botulotoxin a tak podobně. Jako že ženy už AI používají dávno (blondýny nejdéle! :-)
A k těm fotografiím - ověřoval někdo, že mezi 7 miliardami lidí opravdu takoví nejsou?
PP
Pavol Hudák,2023-01-29 08:38:06
Presne pre to, ze sa AI nauci mackat tie spravne knofliky v ludskom mozgu som presvedceny ze clovek proti AI nema ziadnu sancu. Ani v rozpoznavani tvari, ani v hre GO, ani v ovladnuti sveta. Ludstvu zostava uz iba par desiatok rokov.
Nevidel bych to tak cerne
Jirka Naxera,2023-01-29 06:01:43
To, ze je treba si davat pozor na internetu vime pres 20 let. To ze je treba informace overovat take. Navic kazdy rozumny clovek, pokud uz se mu nekdo libi, tak s danou osobou cile komunikuje, pripadne se i setkaji osobne (s tim trochu zamaval Covid, ale snad je to za nami), takze tady bych zustal v klidu. Co jsem testoval GPT3, tak je opravdu hloupa a turingovym testem mi neprosla uz po ctvrte zprave, takze ani tady bych nevidel vazny problem.
(a kdyz se zamyslime, vzdyt je to jedno, jestli mi do oci, chci rict do monitoru lze podvodnik nebo neuronka.)
Naopak vnimam posun k lepsimu, pokud cela "afera" povede k vetsi kriticnosti, tak vysledek je jednoznacne pozitivni. Technicky podepisovat digitalni obsah umime uz pres pul stoleti, takze vse je o duvere v konkretniho cloveka, ktery publikuje. A pokud si znamy novinar ziska dobrou povest, tak do sveta nepusti digitalne podepsane zfalsovane video (a pokud ano, velmi rychle o ni prijde).
Re: Nevidel bych to tak cerne
Marek Fucila,2023-01-29 23:55:28
GPT3 je sice hlupa, ale turingov test ma rovnako silny predppklad ako zakladne ekonomicke teorie, a sice, ze ludia sa spravaju rozumne.
Ja som na internete zazil diskusie, kde by nim druha strana nepresla, a to som si 100% isty, ze islo o zivu bytost. :) ChatGPT ma naopak fascinuje. Kebu daval trochu menej premudrele odpovede, posobil by vierohodnejsie. Bezny internetovy troll sa aj tak po stvrtu odpoved nedostame, alebo jat daleko od reakcie na temu, ze GPT je az podozrivy. :) Posobive je, ako ta cinska izba na komunikaciu staci.
Nevidel by som ten prinos falosnych informacii az tak pozitivne, lebo mam dojem, ze priemerny clovek sa nestava skeptickym, ale len nedovercivym. Co vidim ako rozdiel, lebo skeptik uvazuje nad tym, co je doveryhodna informacia
Ten co nedoveruje bez vedomosti tak cini sice opatrne, ale hlupo. Ked chyba logika, potom pridu zavery ako: vsetci klamu. Vyberiem si teda charizmatickeho klamara...
Re: Re: Nevidel bych to tak cerne
Jirka Naxera,2023-01-30 02:28:54
ad ChatGPT3 - schválně koukněte na tyhle konverzace:
https://pastebin.com/UKNdhatq
https://pastebin.com/YDYEHL8a
https://pastebin.com/WNjkcUtE
Upřímně, nepřesvědčil mě ani jeden rozhovor. A u třetího dokonce i v pozici "obyčejného chatbota s velkou databází", který je bez skrupulí schopen lhát ;-)
OT: Jímá mě hrůza a děs z programátorů, kteří si ChatGPT pochvalují jako lepší StackOverflow. Pevně doufám (ale vůbec tomu nevěřím), že nepíší žádné kritické aplikace...
Re: Re: Re: Nevidel bych to tak cerne
Marek Fucila,2023-02-01 01:40:18
Mne sa zdaju tie odpovede aj tak fascinujuce. :-)
Ja som sa s nim sice bezuspesne natahoval pri otazke, kolko stoji flasa, ked vino je o 30 EUR drahsie ako flasa a flasa vina stoji 32 EUR, ale to su zaciatocnicke muchy. Aspon 5x to vypocital s ospravedlnenim a rovnako zlym vysledkom. :-)
Vlastne tych neuspesnych rozhodvorov bolo viac, ale zase kreativita mu nechyba.
Mam male deti, a tie sice rozpravat vedia, no tiez od nich nejake zasadne pravdy nedostanem. Podla mna su odpovede chatbota miestami na urovni maleho dietata, ale vedomosti ma lepsie ako priemerny laik. Kto moze mat wikipediu v malicku? :-)
Zazil som par chatov/telefonickych rozhovorov s technickou podporou rozneho druhu, a niektorych by teda chatbot strcil do vcku. Aspon v chapani problemu. Hlavne, keby poznal problematiku danej institucie.
Zoberme si to z pohladu AI z pred 20 rokov a skusme to extrapolovat s klusom aj len linearne o 20 rokov. Chapem aj obavy, ale ja som fakt zvedavy. Pruser bude, ako pre to vyberat relevantne zdroje. Uz teraz tu mame masy dezolatov odchovanych na dezinformaciach. Ak sa taketo generatori zacnu sirit nezmyslami navzajom, moc reality nepochytia.
Ale zase podla mna by bolo zaujimave, keby si zacal chatbot klast otazky sam, nasledne si vyvodzoval zavery a nejakym stylom ich verifikoval a spravne zavery doplnal do svojej bazy znalosti. To by mozno skutocne zacal mysliet a od toho asi uz nie je daleko sebauvedomenie. Neviem. Nemuselo by to mat daleko od filmu "Miluj sveho robota", co som nedavno videl (celkom vtipny https://www.csfd.cz/film/988845-miluj-sveho-robota/prehled).
Nasledne cakam zaplavu objavov, a dalej mnohi vidia ciernu buducnost ludstva. Ako optimista cakam, ze ludia budu pre stroje nejaku dobu stale uzitocni. Mnohi mozno konecne pre niekoho. :-)
K tomu klamaniu - ludia to tiez robia bezne. A casto to moze byt aj tym, ze si myslia, ze maju pravdu. :-)
Ja dufam, ze kriticke aplikacie sa kriticky aj testuju. Inak je uplne jedno, ci ich nakodi neschopny alebo pohodlny programator/chatbot. A tych nekritickych je uplna vacsina. Vlastne aj programovanie samotne vacsinou nie je ziadna raketova veda. Preklad biznisovych poziadaviek do reci pocitaca. A vyznat sa v neprehladnom mnozstve technologii.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
