Umělé neurální sítě se neustále zlepšují v rozpoznávání řeči a interpretaci obsahu obrázků. Počítače se nyní s celkem dobrou úspěšností dokáží popsat nejen co na obrázku je, ale taky co se na něm „děje“:
Počítačem popsaný obrázek „Skupina mladých lidí hraje frisbee“. Více na stránkách io9.com
Neurální sítě schopné rozpoznávat obrázky programátoři nevytvoří de-novo. Neurální sítě využívají strojové učení, kdy na milionech příkladů zjišťují, co zadaný objekt znamená. Když počítač uvidí milionkrát kočku ze všech možných úhlů, tak si ji se psem splete jen málokdy. Dělá to tak, že si sám vytváří hypotézy, které znaky jsou nezbytné, aby daný obrázek byl označen jako kočka.
Nyní softwaroví inženýři zkusili postup obrátit a místo toho, aby počítač rozpoznal, co je na obrázku mu zadali, aby z hypotéz, které si vytvořil strojovým učením, ukázal například banán. Jako podklad pro tvoření počítač dostal náhodný šum. Z něj počítač finální obrázek vygeneroval opakovanou amplifikací znaků, které podle jeho „představ“ odpovídají banánu.
Ukázalo se, že neurální síť, která je naučená rozpoznávat obrázky, dokáže i obrázky vytvářet.
V některých případech se ukázalo, že program špatně pochopil pojmy. Například činku si neurální síť představuje jako činku spojenou s rukou, protože zřejmě naprostá většina obrázků obsahuje činku drženou svalnatou rukou.
Další použitý přístup, který v Google Lab použili, byl, že místo náhodného šumu počítači ukázali arbitrární obrázek a nechali ho opakovaně amplifikovat znaky, které v něm zachytil. Výběr finálního objektu tedy byl nyní na počítači.
Počítač, kterému se zadá amplifikace znaků, kterých si všimne v „prvním nástřelu“, by se dal přirovnat k fantazii člověka.
Počítač má díky tomu, z jaké databáze obrázků čerpal, tendenci například v kamenech a stromech budovy, nebo v obrázcích listí vidět ptáky.
Pokud předchozí postup opakovaně použijeme na obrázky, které vznikly amplifikací daného znaku, tak neurální síť začne generovat fantaskní krajiny obsahující objekty, které můžeme rozpoznat.
Pochopení fungování umělých neurálních sítí nám pootevírá dveře k poznání našich, evolucí vytvořených, neurálních sítí.Galerie obrázků ve vysokém rozlišení vzniklou různou úrovní zvýrazňování znaků, pro které se rozhodla umělá neurální síť, si můžete prohlédnout zde.
Originální zdroje: googleresearch.blogspot , photos.google.com
Diskuze:
a co dalej...
Jan Barackanyi,2015-06-28 12:53:25
...dalej by mali ich neuronky nakrmit vlastnymi vyprodukovanymi obrazmi aby sa naucili co je to abstraktne umenie...
Inak nevysvetlili o co im islo s Munchovym obrazom The scream:
https://en.wikipedia.org/wiki/The_Scream
A tiez by ma zaujimalo na kolko su tieto "obrazy" doladene clovekom. Mam tiez pocit ze pocitac vytvori obrovsky obraz (alebo tisice malych podobnych obrazov) a je na cloveku aby vybral ten najlepsi. Chcel by som vidiet aj tie menej podarene...
ovlivněnost "AI"
P Sax,2015-06-24 20:25:13
Tak stačí si projít obrázky v galerii a je na první pohled vidět, že algoritmus/AI je silně ovlivněna "nějakým" zdrojem a viděl bych to jako systémovou chybu... Takže hezké to je ale chyby v tom jsou, a velké, s nejvěší pravděpodobností strikní dodržení zadání matematika/analytika programátorem...
Re: ovlivněnost "AI"
Michal Hradiš,2015-06-24 22:56:02
Ty obrázky jsou "ovlivněné" vstupním obrázkem, úlohou pro kterou byla síť natrénovaná, architekturou sítě a nastavením tak deseti lehce magických parametrů.
"Systémové chyby" v tom žádné nejsou - tedy nejsou v tom žádné chyby, protože neexistuje žádný "správný" výsledek. Ten použitý postup dělá to, co po něm autoři chtějí, tedy pomáhá pochopit, co se v těch sítích děje (a jako příjemný bonus vyrábí zajímavé obrázky, které si můžou vytisknout na plotteru a pověsit v kanceláři na zeď nad monitor - to je svatý grál vědecké činnosti).
V této a podobných oblastech většinou nejsou analytici a programátoři. Většinou člověka něco napadne, někoho dalšího tím nadchne a spolu napíší nástroj, s pomocí kterého zkouší různé experimenty. Experimenty se většinou nechovají úplně podle plánu a dlouho trvá, než se podaří získat takové výsledky, které je možné pustit do světa. Při implementaci metod z tohoto příspěvku není moc prostor na chyby - pokud nějakou uděláte, nefunguje to. Navíc to často nefunguje, ani když to dělá přesně to, co chcete :).
Špatný odkaz na přednášku
Michal Hradiš,2015-06-24 15:13:43
Omlouvám se, do předchozího příspěvku jsem vložil odkaz na starší přednášku. Správně je https://video1.fit.vutbr.cz/index.php?record_id=32799&categ_id=1118. Neuronové sítě jsou až v druhé polovině a konvoluční sítě až v poslední čtvrtině.
Jak to funguje
Michal Hradiš,2015-06-24 11:55:39
Prezentované výsledky jsou založené na hlubokých dopředných neuronových sítích (multi layer perceptron, feed forward networks), které se různých podobách používají již od osmdesátých let. V tomto případě jsou sítě hluboké (klidně >20 vrstev), velké (klidně >100M vah) a konvoluční (stejné neurony se opakují v celém obraze a neurony vidí jen malou lokální část obrazu. Takové sítě jsou trénované pro rozpoznávání objektů/scén z fotografií na >1M obrázcích (např. na databázi ImageNet http://www.image-net.org/). Trénuje se pomocí zpětného šíření chyb (backpropagation - výpočet parciálních derivací) a mnoha malých uprav vah sítě tak, aby výstupy sítě na trénovací sadě odpovídaly požadovaným výstupům (pro obrázek banánu byl výstup sítě třída "banán"). Mou přednášku v češtině na toto téma si můžete stáhnou z https://video1.fit.vutbr.cz/index.php?record_id=21044&categ_id=451 a prezentace je na http://www.fit.vutbr.cz/study/courses/IKR/public/prednasky/06_rozpoznavani_v_obraze/IKR-CNN.pdf.
Zde prezentované výsledky vznikly právě díky takové velké neuronové síti, která dokáže rozpoznávat objekty. Postup je podobný učení sítě. Při učení se mění váhy sítě, aby výstup měl požadovanou hodnotu --- obdobně je možné měnit vstupní obrázek, aby se dosáhlo určitého výstupu. V tomto případě se navíc přidá požadavek, aby ten vytvořený obrázek vypadal realisticky (v podstatě potlačení šumu). S tím banánem a činkou obrázek "optimalizují" tak, aby síť dávala nejsilnější výstup právě pro třídu "banán"/"činka". U těch ostatních halucinací přiloží obrázek na vstup sítě, spočítají aktivace (výstupy neuronů) některé z vrstev, a pak se snaží upravit obrázek, aby ty spočítané aktivace co nejvíce vzrostly. Tím zesilují v obrázku to, jak jej síť interpretuje. Tento postup i opakují. Použité sítě v hlubších vrstvách mají složitější neurony, které postupně zachycují složitější části (aspekty) objektů, a díky tomu je možné získat obrázky, ve kterých vznikají různě složité celky objektů (od zesílení hran až po celé objekty).
Pokud vás téma zajímá, klidně mi napište.
Neuronové sítě
Matěj černý,2015-06-23 13:03:00
Myslím si, že termín neurální sítě se příliž nepoužívá, častěji se mluví o Neuronových sítích, asi bych autorovi doporučil použít tento termín.
Jinak obrázky jsou to úžasné, velmi se podobají tomu, co lze pozorovat na různých pschedelikách.
Radka Sladká,2015-06-21 17:53:09
Je to vážně hezké. Ale pro mě trošku děsivé. Jako by to kreslil někdo těsně před zešílením. Taková zneklidňující noční můra. Do kuchyně bych si takový obraz nepověsila. Ostatně tu vyděšenou hlavu bez očí, nkreslenou člověkem taky ne :-)
programator
Štefan Bognár,2015-06-21 13:48:28
Bolo by zaujímavé analyzovať aký veľký vplyv na výsledné obrazy má vplyv človeka ako programátora tohoto systému. Myslím že to malo zásadný vplyv.
Re: programator
Marek Fucila,2015-06-22 13:52:18
Ak je to klasicka neuronova siet - napriklad Kohonenova, tak implementacia samozrejme ovplyvni vysledok, ale nie tak, ako si pravdepodobne predstavujete. Neuronova siet je len spletou uzlov a spojeni, ktore sa na zaciatku nastavia na rovnako vyznamne hodnoty, urci sa uciaca funkcia, a vplyvom trenovacich dat sa siet "sama" uci. Vysledkom je siet z rovnakych uzlov a rovnakych spojeni, len ich vyznam sa zmenil. Niektore sa pri rozhodovani vobec nepouzivaju, niektore malo, niektore su podstatne. Skratka siet odzrkadli to, co sa naucila - vstupy, ktore jej boli podhodene. Vratane ohodnotenia vystupov.
Netusim aky typ siete pouzivaju. Mozno maju jednu siet specialne na babany, ktorej podhadzuju len obrazky bananov, a ona potom vo vsetkom vidi nejaky banan.:-) To by som trochu chapal sposob ako vlastne vygenerovali tieto abstrakcie. Ale o tom, co je vo vysledku takmer urcite nerozhodol programator, ale zvoleny typ siete a trenovacie obrazky, ktore doteraz siet "videla".
Re: Re: programator
Matěj černý,2015-06-23 13:06:14
Mě by zajímalo, jestli se jedná o čistý black box, kdy do vstupu vkládají bitmapy a informaci, co na obrázku je a uvnitř jsou klasické neurony. Nebo v rámci jednotlivých neuronů jsou zakódované algortmy na rozpoznání hran, tvarů atd, jak je lehce naznačeno v původním googleresearch příspěvku. Škoda, že článek nepsal někdo, kdo problematice více rozumí..
Re: Re: Re: programator
Marek Fucila,2015-06-24 10:17:31
Po prečítaní pár takýchto populárnych článkov som sa konečne pozrel aj na originál.:-) Sú tam aj odkazy na arxi.org, ktoré som zatiaľ nečítal. V originále píšu, že používajú backpropagation algoritmus a netušia ako tá sieť presne rozpoznáva obrázky. Len že konfigurácia siete má 10 až 30 vrstiev, a že je predpoklad, že nižšie vrstvy držia informácie o základných prvkoch obrázku, a postupne vyššie vrstvy "chápu" zložitejšie tvary.
Takže to zjavne nie je nič špeciálne, a teda odpoveď na vašu otázku je, že je to čistý blackbox. Samotný neurón nedrží žiadnu "rozumnú" informáciu. Každý neurón si v zásade pamätá len svoju prahovú hodnotu, a keď spočíta sumu vstupných hodnôt, a táto prekročí prah, pošle výstup, inak výstup nepošle. Dráhy majú iné váhy, takže ten výstup môže byť napojený na množstvo ďalších neurónov, ku každému z nich rôzne zoslabený. To, ako veľmi zabezpečil učiaci spätnoväzobný algoritmus.
Vstupy bývajú namapované priamo na pixely obrázku, výstupom býva len pravdepodobnosť, s akou je na obrázku banán. MNieco na tento sposob:
http://www.ro-journal.com/content/6/1/65/figure/F3
Mozno to maju upravene, ale uzly urcite nemaju ziadnu zlozitu logiku. Skor mozu mat tych sieti zapojenych viac.
Stroje berou lidem práci
František Luft,2015-06-20 22:37:12
V daném případě začínají konkurovat umělcům :) Mně se to líbí, něco podobného je vidět v dílech schizofreniků, nebo lidí pod vlivem LSD. Chtěl bych slyšet hudbu jaká by vznikla "optimalizací" zvuků
...
Jan Kment,2015-06-20 11:03:05
Ty obrázky na tom odkazu se opravdu hodně podobají obrazům, které se člověku v mysli rodí, když je nechá volně plynout...
Re: ...
Milan K,2015-06-20 11:11:00
Neuvědomuji si, že by se mi v mysli takové obrazy rodily. Jsem špatný impresionista. Ovšem The Pig-Snail made my day :-)
Re: Re: ...
Jan Kment,2015-06-20 11:38:25
Nevím, možná si ze mě děláte srandu... Nicméně, když se trochu uvolníte, uvidíte jak se vám na tom promítacím plátně za zavřenýma očima rojí a neustále mění množství barevných 2d objektů, často něco připomínají a když se na tu představu upnete, zrodí se fantazijní obraz. Ale můžete to nechat jen tak být a pozorovat to hemžení... Myslím, že tímhle pozorováním vznikla řada Kubkových obrazů...
Re: Re: Re: ...
Milan K,2015-06-20 11:56:00
Srandu si nedělám. Když se uvolím a zavřu oči tak záleží na okolí, co vidím. Pokud je okolo světlo, pak vidím světelný šum. Pokud je tma, pak vidím "dozvuk" toho světla/šumu, přecházející v tmu s postupně zhasínajícími kulovými i mírně rozostřenými světelnými body (bublinový efekt). A to je, jak jsem se dozvěděl, prý normální. Jak dozní, mnohdy než dozní usnu. Jak říkám, jsem špatný impresionista.
Růže pro Algernon
Jan Špaček,2015-06-20 12:40:07
Tuším, že to bylo v růži pro Algernon - kde prováděli rorschachův test. Schopnost abstrakce z fleků je spojována s lidským intelektem.
Re: Růže pro Algernon
Jan Kment,2015-06-20 13:11:36
Zdá se to pravděpodobné, to by znamenalo, že i fantazie je podmíněna inteligencí.
Re: Re: Růže pro Algernon
Lukáš Kříž,2015-06-24 16:05:21
Spíš inteligence s fantazií. Vědec bez fantazie není vědec. Ono obecně platí, že schopnosti člověka rostou s mírou fantazie. A úspěšnost potom, se schopností ty fantazie realizovat. Ale to už je zase jiná věc.
Re: Růže pro Algernon
Milan K,2015-06-20 13:29:38
Avšak nediskutujeme o schopnosti abstrakce z fleků. Jak typické.
Re: Růže pro Algernon
Lukas Pravda,2015-06-20 20:18:43
Hm, prekvapuje mne, ze tim prave rorschacha neprohnali... Nebo prohnali a nechteji rict, s jakou diagnozou to skoncilo. :)
Re: ...
Roman Horváth,2015-06-20 19:52:31
„Ty obrázky na tom odkazu se opravdu hodně podobají obrazům, které se člověku v mysli rodí, když je nechá volně plynout…“ — Áno, ja to mám podobné… Už od detstva. Hlavne pred zaspávaním to bolo vždy intenzívne. Ale poznám aj ten „doznievajúci svetelný šum“, ktorý bol tu spomenutý v diskusii.
Re: Re: ...
Radka Sladká,2015-06-21 17:36:43
To já když zavřu oči, tak rozhodně ne proto, abych se dál dívala :-)
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
