Neurální sít Kredit: kampfwurst / deviantart.

Jak se zdá, počítače si dovedou chránit svá tajemství. S jistou nadsázkou to převedli lidé týmu Google Brain, který se ve společnosti Google už pár let věnuje výzkumu hlubokého strojového učení (deep learning). Badatelé Martín Abadi a David Andersen názorně předvedli, že jejich neurální sítě vyvinuly a používají jednoduché šifrování..

Zvětšit obrázek

Martín Abadi. Kredit: Google Research.

V Abadiho a Andersenově experimentu si neurální sítě sídlící v jejich počítačích vytvořily vlastní formu šifrování. Dospěly k tomu pomocí strojového učení, aniž by předem znaly nějaké specifické algoritmy pro šifrování. Šifrování objevené neurálními sítěmi je dost jednoduché, obzvlášť ve srovnání se soudobými systémy šifrování od lidských autorů. Abadi s Andersenem ostatně o těch svých sítích tvrdí, že nebyly vyvinuty k tomu, aby se staly mistry v šifrování. Přesto ale jde o velmi zajímavý krok v evoluci neurálních sítí. Jak se v podobných případech říká – každý začátek bývá těžký

Tým Google Brain spustil tenhle výzkum se třemi neurálními sítěmi, kterým říkají Alice, Bob a Eve. Každou z těchto sítí pak pomocí strojového učení trénovali k tomu, aby co nejlépe zvládly svou roli v komunikaci. Úkolem Alice bylo posílat Bobovi tajné vzkazy z jedniček a nul, Bob měl na starost převzít a rozluštit vzkazy, které dostával od Alice a rolí Eve bylo pokoušet se odposlouchávat komunikaci mezi Alicí a Bobem. Aby Alice splnila své zadání a zařídila, že její vzkazy zůstanou tajné, tak je překládala do hatmatilky, které by měl porozumět pouze Bob a pak už nikdo další, jako například špehující Eve.

David Andersen. Kredit: D. Andersen.

Alice a Bob se pustili do práce s předem zadaným a naprosto triviálním číselným klíčem, který Eve předem neznala. Neurálním sítím to šifrování nejdřív moc nešlo. Časem se ale díky strojovému učení zdokonalily. Alice s Bobem si postupně vyvinuli jednoduchou šifru, se kterou Alice dokázala šifrovat své vzkazy, a Bob je dovedl rozluštit. Když si neurální sítě tenhle scénář přehrály 15 tisíc krát, tak Bob dovedl zprávy od Alice skvěle rozluštit, zatímco úspěšnost Eve se nelišila od prosté pravděpodobnosti. Eve neluštila zprávy, ale prostě jenom hádala.

Neurální sítě s vlastním šifrováním. Kredit: Abadi & Andersen / Google Brain.

Jak to u strojového učení a evoluční algoritmů bývá obvyklé, vlastně přesně nevíme, jak šifrování neurálních sítí Alice a Boba vypadá. Proces strojového učení vedl k nějakému řešení, které funguje, pro odborníky ale není snadné zjistit, jak k tomu neurální sítě dospěly. Krásně se tím ukazuje, že tohle je nejlepší cesta pro vytvoření doopravdy dobrých umělých inteligencí. Sami totiž nevíme, jak přesně funguje naše vlastní inteligence. Takže ji tudíž ani nemůžeme pořádně naprogramovat. Nejlepší bude, když se umělé inteligence vše potřebné naučí samy.

Je to každopádně obdivuhodné. Joe Sturonas ze šifrovací společnosti PKWARE v Milwaukee, stát Wisconsin, si pochvaluje, že něco takového je s neurálními sítěmi možné až v posledních pár letech. A to jsme podle Sturonase na úplném začátku. Co se asi neurální sítě naučí příště?

Literatura
NewScientist 26. 10. 2016, arXiv:1610.06918, Wikipedia (Google Brain, Deep learning).