Nová umělá inteligence je výkonnější, když spí a sní  
Zní to zvláštně, ale když necháte umělou inteligenci určitého typu pořádně vyspat a snít, tak se zvýší její výkon. Vědci se při vývoji této neurální sítě inspirovali u spících savců. Teď jen doufejme, že se umělým inteligencím zdá o samých pěkných a pozitivních věcech.
O čem asi sní AI? Kredit: PIROD / Pixabay.
O čem asi sní AI? Kredit: PIROD / Pixabay.

Jak každý jistě ví, spánek chutná sladce. Odborníci vysypou z rukávu, že spánek přináší celou řadu užitečných a zdraví prospěšných věcí. Je mezi nimi i šikovná údržba mozku, protože během spánku dochází k „prořezávání“ nadbytečných synaptických spojení, které si mozek vybudoval během dne. Taková péče jde k duhu neuronům a mozek je pak zdravější.


Tomuto procesu se říká synaptická homeostáze. Slouží k tomu, aby se mozek nezahltil zbytečnými vzpomínkami.

 

Adriano Barra. Kredit: A. Barra.
Adriano Barra. Kredit: A. Barra.

Pravděpodobně pomáhá udržovat naše duševní výkony na přijatelné úrovni. A když mozek sní, tak se, mimo jiné, zabývá údržbou paměti. Možná to bude poněkud šokující, ale podle týmu italských badatelů se něco podobného odehrává v umělých neurálních sítích (ANN, podle anglického artificial neural networks). Dokonce to prý funguje hodně stejně jako v lidském mozku.


Dnešní umělé neurální síť (zatím) neusínají samy od sebe. Adriano Barra z italské Univerzity v Salentu se svými kolegy naprogramoval takzvanou Hopfieldovu neurální síť tak, aby byla schopná spát. Inspirovali se známými mechanismy spánku a snění v savčím mozku. Výsledkem jejich snažení byla umělá inteligence, která standardně funguje s online mechanismem strojového učení anebo upadá do offline stavu, v němž zase něco zapomíná a uspořádává si vzpomínky.

 

Umělá inteligence Deep Dream má snění v popisu práce. Kredit: 	MartinThoma / Wikimedia Commons.
Umělá inteligence Deep Dream má snění v popisu práce. Kredit: MartinThoma / Wikimedia Commons.

Když je snivá neurální síť vzhůru, tak se učí a naučené vzory si ukládá do paměti. Ale její paměť má jenom omezenou kapacitu. Barra a spol. do této neurální sítě implementovali mechanismy lidského spánku v matematické podobě. Jde o REM spánek, o němž odborníci předpokládají, že odstraňuje nadbytečné vzpomínky, a pak je to delta spánek, čili spánek pomalých vln, který by snad měl naopak upevňovat významné vzpomínky.

 

Výsledky experimentů se snivou neurální sítí jsou fascinující. Neurální síť, která nespí, má maximální kapacitu, která odpovídá počtu bitů uložených na jednu synapsi, alfa = 0, 014. Když ale neurální síť mohla spát tak její kapacita dosáhla teoretického limitu, na hodnotě alfa = 1. Rozsáhlé testování se simulacemi potvrdilo, že když si umělá inteligence tohoto typu dá šlofíka, tak jí to rozhodně prospěje.


Barra tvrdí, že pokud jde o duševní schopnosti, ústřední roli samozřejmě hraje učení a schopnost si naučené věci vybavit. Ale snění je podle něj také zásadní charakteristikou jak pro umělou, tak i lidskou inteligenci. Nám nezbývá než doufat, že sny umělých inteligencí jsou pěkné a pohodové. 

Video:  Lecture 11.1 — Hopfield Nets


Literatura
Neural Networks online 29. 1. 2019, Science Trends 14. 2. 2019.

Datum: 16.02.2019
Tisk článku

Související články:

Umělá inteligence DeepCoder sama programuje vykrádáním jiných programů     Autor: Stanislav Mihulka (26.02.2017)
Umělá inteligence Shelley píše hororové texty. A je v tom dobrá     Autor: Stanislav Mihulka (27.10.2017)
Mohou být umělé inteligence depresivní a mít halucinace?     Autor: Stanislav Mihulka (11.04.2018)
Co je to vlastně ta Umělá inteligence?     Autor: Lukáš Fireš (30.01.2019)



Diskuze:

Co je to tady za ezo komentáře

George S,2019-02-19 16:19:48

Fakt super vědecká diskuze, umělá inteligence si samozřejmě jednou uvědomí sama sebe a stane se živou. Proč by to jako nemělo jít... ?

Odpovědět


Re: Co je to tady za ezo komentáře

Milan Krnic,2019-02-21 18:38:45

"Proč by to jako nemělo jít" je super vědecké! Pásní věšteckou gulu Žorži, taky si něco pověštím.

Odpovědět

...

Jan Balaban,2019-02-17 08:17:36

Umelá inteligencia je - keď je nejaký systém dosť zložitý a neprehľadný,

Odpovědět

Inteligence

Vojta Ondříček,2019-02-16 14:42:20

Umělá (AI), umělecká, strojová, počítačová, zvířecí ...
Pakliže máme na mysli výraz "inteligence" vyjadřující schopnost rozumně uvažovat, tak se to na stroje nevztahuje a nikdy vztahovat nemůže. Stroje reagují podle programu sestaveného a vloženého inteligentním programátorem.
Pakliže interpretujeme výraz "inteligence" jako schopnost zpracovat, vyhodnotit a reagovat na vstupní data, tak má i automobil inteligenci, neboť nás dopraví po klikatých silničkách a uličkách měst k cíli podle informací dodávaných automobilu řidičem. Podobně je to s kalkulačkou počítajícím zadané hodnoty podle zadané volby, třeba logaritmováním.
Nebo poplašným hlásičem reagujícím na přítomnost popílku ve vzduchu hlasitým pištěním.

Co se týče "spánku" stroje (sleep modus), tak je to stav absolutní nečinnosti (energetická úspora) ze které je "probuzen" podnětem z venčí (interrupt). U živočichů neexistuje za živa stav absolutní nečinnosti, některé části mozku (a i jiných orgánů) jsou po celou dobu "spánku" velmi činné, i když ve "spánkovém" modi.

Odpovědět


Re: Inteligence

Richard Pálkováč,2019-02-16 16:29:54

Myslím, že nechápete rozdiel medzi klasickým počítačovým programom a neurónovou sieťou. U zložitej neurónovej siete jej programátor netuší, ako sa táto dopracuje ku správnemu výsledku, totiž to v systéme nie je naprogramované.

Napríklad už aj pri objektovo orientovanom proramovaní (čo nie je neurónová sieť), ak je obkjektov veľa a každý objekt pracuje podľa svojho programu, programátor nedokáže predpovedať čo sa bude skutočne diať. A pokiaľ by mal každý takýto objekt, fyzicky svoj procesor (teda nie je potrebné aby objekty čakali na beh svojho programu v poradí na jediný procesor) a svoju pamäť, tak programátor zase nebude vedieť predvídať ako sa tento systém objektov ako celok, v skutočnosti bude správať. Je celkom možné, že z takejto zložitosti vznikne aj vedomie. (http://riki1.eu/Co_je_to_vedomie.htm)

Odpovědět


Re: Re: Inteligence

Tomáš Habala,2019-02-16 18:25:34

Je to dosť rozšírená laická predstava, že keď je nejaký systém dosť zložitý a neprehľadný, "možno tam vznikne aj vedomie". Ešte v čase, keď neexistoval internet som čítal sci-fi poviedku o tom, ako nadobudla vedomie svetová telefónna sieť. Podľa toho by teraz internet mal nadobudnúť vedomie takmer na istotu.

Ale také jednoduché to nie je. Nevyhnutnou podmienkou pre vedomie je model sveta, v ktorom je zahrnutý aj model samotného nositeľa tohto modelu. Potom ten model "vie" o sebe. (Max Tegmark: Matematický vesmír). No a takýto model nepovstane náhodne sám od seba len kvôli tomu, že niečo je zložité, chaotické a nepredvídateľné.

Odpovědět


Re: Re: Re: Inteligence

Richard Pálkováč,2019-02-16 19:56:21

Podľa materialistickej predstavy takýto model ale "povstal náhodne a sám od seba", evolúciou.

Odpovědět


Re: Re: Re: Inteligence

Richard Pálkováč,2019-02-16 21:17:22

No a keď je už reč o "vedomej" telefónnej sieti, tak niečo "vedomé" sa dostalo aj na môj portál :http://riki1.eu/Viem_ze_som.htm

Odpovědět


Re: Re: Inteligence

Lukáš Fireš,2019-02-16 18:39:22

Váš závěr o možnosti vzniku vědomí nehodlám rozporovat, kdo ví co bude za pár let či dokonce tisíciletí, a taktéž souhlasím s tím, že neuronové sítě jsou příliš složité na to abychom přesně věděli co a hlavně proč to dělají, ale za největší problém současných AI považuji neschopnost se efektivně učit z interakcí v reálném čase. Stále je to příliš nedokonalé a příliš pomalé, takže potřebujeme simulace a miliony či miliardy lidmi označených obrázků apod. Dovolím si sem zkopírovat svou vlastní odpověď panu Březinovi:

Pointa spočívá v tom, že se dokáže učit pouze ze simulace a pokud v simulaci něco chybí, tak se to nenaučí. To taky znamená, že se nemůže naučit řešit problémy, které před tím nikdo nenasimuloval. A přesně to by GAI zvládnout měla - flexibilně řešit nové, dříve neznámé, problémy. Nemůže, protože nemá simulaci toho, co nezná. Musí ji nejprve vytvořit člověk.

I když dáte dvě AI proti sobě, stále potřebují arbitra, tedy buď člověka, který rozhoduje co je správně, nebo člověkem napsaný program, který jej zastoupí. Opět, bez člověka to nejde. To člověk označuje obrázky, to člověk tvoří simulace, to člověk má vědomí, AI nikoliv, bez člověka je to jen aproximační funkce.


Dodatek: A právě proto potřebujeme nalézt jiný postup učení, než je "back propagation". Potřebujeme nejspíše i jiný druh sítí než jsou "feedforward", tedy třeba "recurrent" (o čemž je řeč v tomto článku), potřebujeme paměť a možná i očistný proces podobný spánku. Jednou jistě vytvoříme "elektronický život", ale kdo ví jak to vlastně bude, možná sami sebe postupnou modifikací přetvoříme a možná stvoříme něco úplně nového. Kdo ví.

Odpovědět


Re: Re: Re: Inteligence

Richard Pálkováč,2019-02-16 20:05:34

Môj názor na to je taký, že v algoritmoch, alebo hardvére AI, musia vznikať náhodné chyby a z tých potom niektoré, môžu viesť k novým riešeniam. To popisujem aj vo svojom vyššie uvedenom článku.

Odpovědět


Re: Re: Re: Re: Inteligence

Lukáš Fireš,2019-02-16 20:26:53

To co popisujete mi ze všeho nejvíce připomíná genetické algoritmy, ty se právě snaží simulovat evoluci, tedy genezi potomků s "náhodnými" mutacemi a následný přirozený výběr (což ale stále vyžaduje člověkem vytvořenou simulaci, takže tady si za svým argumentem stále stojím).

https://en.wikipedia.org/wiki/Recurrent_neural_network
Global optimization methods
...
The most common global optimization method for training RNNs is genetic algorithms, ...
...
Other global (and/or evolutionary) optimization techniques may be used to seek a good set of weights, such as simulated annealing or particle swarm optimization.


Tedy, buď musíme spoléhat na náhodu (a pokud nechceme jen pseudo-náhodu, tak budeme muset sahnout po kvantových jevech) a nebo rovnou na kvantový výpočet, např. https://en.wikipedia.org/wiki/Quantum_annealing

Odpovědět


Re: Re: Re: Re: Re: Inteligence

Richard Pálkováč,2019-02-16 21:10:13

Áno, pravdepodobne tak vznikne tvorivo mysliaci stroj. Ďalším krokom potom bude vznik vedomia, pokiaľ toto má materialistickú podstatu (o čom som presvedčený len tak asi na 50 percent). Kolega v príspevku o kúsok vyššie predpokladá, že "nevyhnutnou podmienkou pre vedomie je model sveta, v ktorom je zahrnutý aj model samotného nositeľa tohto modelu". Toto ale pre vznik vedomia určite nepostačuje. Ja predpokladám (je to skôr len také tušenie), že tu bude zohrávať úlohu tá "skoro nekonečné spätná väzba", ktorú spomínam vo svojom článku.

Odpovědět


Re: Re: Re: Re: Re: Re: Inteligence

Richard Pálkováč,2019-02-16 21:14:29

Ono v podstate aj to vyjadrenie "model sveta, v ktorom je zahrnutý aj model samotného nositeľa tohto modelu" už evokuje tú rekurziu- "skoro nekonečnú spätnú väzbu"

Odpovědět


Re: Re: Re: Re: Re: Re: Re: Inteligence

Tomáš Habala,2019-02-16 23:32:16

Váš postreh je správny.

Odpovědět


Re: Inteligence

Lukáš Fireš,2019-02-16 18:12:45

Řekl bych, že v článku se "spánkem" myslí něco trochu jiného než režim minimální spotřeby (např. "deep sleep" či "backup mode", kdy dojde k vypnutí vnitřního taktu a dokonce i RAM paměti, takže procesor nic nezpracovává a vzbudí se "resetem", tedy skoro jako by byl po celou dobu spánku odpojen od zdroje).

Tady je řeč o RNN - Recurrent Neural Network: https://en.wikipedia.org/wiki/Recurrent_neural_network
a spánek bude spíše nějaký algoritmus optimalizace sítě (ve videu se mluví o hledání energetického minima a hlavně o paměti).

Ačkoliv mám většidou dojem, že lidé AI a stroje příliš personifikují (a že to dělám sám, když mám kolegům vysvětlit jak co funguje) a pak z té přehnané personifikace vyvozují ještě přehnanější závěry, tady (u RNN) už si sám přestávám být tak jist. Ve svém článku jsem psal o Feedforward Neural Network: https://en.wikipedia.org/wiki/Feedforward_neural_network

Odpovědět

Lidská inteligence

stanislav vyskočil,2019-02-16 10:40:59

Každá "umělá" inteligence aby byla alespoŇ ještě nahony vzdálená lidské musí vycházet nebo obsahovat prvky které vznikli za Evoluce hmoty na této planetě během 4 miliard let. To znemená obsahovat nehmotný software nesený na nosiči makromolekuly DNA Toto není možné obejit pokud to má být inteligence lidská . Software je nadřazený lidskému mozku protože on si mozek vytváří na řízení hardware - těla aby dál přežil krze hrdlo jedné bunky do další generace a byl "nesmrtelný" ne my ani naše nám pronajaté dočasné těla.

Všechna jiná inteligence nebude lidská ale nějaká strojová ,může být i samoučící ,některé parametry jako pamět mnohonásobně větší jak mozek ale nebude lidská a to nikdy ,leda že by prošla Evolucí za velmi dlouhou dobu z adaptací.

Odpovědět


Re: Lidská inteligence

Štefan Ürge,2019-02-17 16:51:57

Pri tejto argumentácii sa stále zabúda na to že touto adaptáciou- evolúciou prešiel človek, a ten je schopný ju účinne do AI zabudovať pomôcť jej. My ľudia sme takúto pomoc nemali. Preto si nemyslím, že to bude trvať tak veľmi dlho.
Pozn.: Pripomína mi to argumentáciu v dielach ktoré vznikli na objednávku komunistov v šesťdesiatich rokoch, kde sa argumentovalo, že 1)nikdy nebude možné vytvoriť mysliace stroje, lebo pracujú na báze nuly a jedničky a treba napísať program a výsledok bude len to čo sa do programu vložilo. Vidíme že to tak nie je. 2)A tiež sa argumentovalo tým, že stroje (počítače) neabsolvujú (neabsolvovali) evolučný proces trvajúci miliony rokov, ktorým človek naopak prešiel, a preto nikdy nebude možné vytvoriť mysliaci stroj.

Odpovědět


Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce








Zásady ochrany osobních údajů webu osel.cz