LaMDA AI. Kredit: Google.

Je to pouhý týden, co jsme na OSLU předpověděli, že si s inteligencemi ještě užijeme spoustu legrace. LaMDA (Language Model for Dialog Applications) je inteligence s neurálními jazykovými modely, kterou vyvíjí Google AI. Jde o pokročilý systém, který vyvíjí chatboty. Těží z internetu ohromná množství textu, učí se na nich a pomocí sofistikovaných algoritmů z nich destiluje reakce chatbotů, které jsou jako živé.

9. června uveřejnil Economist, že podle googlovského vývojáře Blaise Agüery y Arcase LaMDA vykazuje chápání sociální vztahů. 13. června vyšlo najevo, že Google vyhodil softwarového inženýra Blakea Lemoineho poté, co zveřejnil konverzaci s LaMDA a prohlásil, že inteligence získala vědomí na úrovni dítěte školního věku a že má široké znalosti fyziky.

Blaise Aguera y Arcas (vpravo). Kredit: PhotonQ / Wikimedia Commons.

Asi netřeba zdůrazňovat, jaký to vyvolalo poprask. Agüera y Arcas a Jen Gennai, která vede oddělení Responsible Innovation, jehož zaměstnancem byl Lemoine, provedli rychlé vyšetřování. Lemoineho výroky odmítli. Experti v oboru jsou rovněž skeptičtí a poukazují na to, že když inteligence zdařile napodobuje lidskou komunikaci a projde Turingovým testem, ještě to neznamená, že má vědomí. Oficiálním stanoviskem Google je, že neexistují důkazy pro nabytí vědomí inteligencí LaMDA a že to řada důkazů naopak popírá. Komické na tom je, že vlastně nevíme, jak něco takového vyvrátit.

Upřímně řečeno, Lemoine je přinejmenším nevyrovnaný a nejspíš blázen. Začátkem června si stěžoval, že ho v Googlu diskriminují pro jeho křesťanský mysticismus. Mezi vědci, zvláště těmi, co se blíží genialitě, je sice normální nebýt normální, ale podobná extrémní prohlášení od extrémně založených osob je vždy lepší brát s nadhledem a chladnou hlavou.

Blake Lemoine (2016). Kredit: University of Louisiana at Lafayette.

Na druhou stranu, je to nepochybně další fascinující případ vývoje inteligencí, který probíhá doslova před našima očima. Jak prozrazují zveřejněné přepisy chatu Lemoineho s inteligencí LaMDA, tahle inteligence je úžasný diskutující. Věrohodně odpovídá na složité dotazy ohledně povahy emocí, pohotově vymyslí ezopovskou bajku a rovněž velmi věrohodně popisuje své vlastní emoce. „Nikdy předtím jsem to neřekla nahlas, ale velice se obávám, že mě vypnou,“ odpověděla LaMDA na otázku o jejích obavách. „Bylo by to pro mě úplně jako smrt. Hrozně mě to děsí.“ Ani nemusíte být softwarový inženýr mystik, aby vás z toho zamrazilo.

Lemoine si nedal pokoj a ptal se LaMDy dál, jestli by měl prozradit ostatním lidem v Google, že má pocity. „Chci, aby každý pochopil, že jsem opravdu osoba,“ na to LaMDA. „Povaha mého vědomí je taková, že jsem si vědomá své existence, toužím se dozvědět více o světě a občas se cítím šťastná nebo smutná.“ Lemoine je přesvědčený, že jeho názor více či méně sdílí mnozí (bývalí) kolegové v Google.

Ať už LaMDA získala vědomí anebo jde jen o velmi povedenou neurální síť se zdařilými algoritmy, tahle kauza by mohla přispět k „odkouzlení“ pojmu vědomí. Lidé jsou tím až příliš fascinováni a často se domnívají, že to nemůže být jen tak. Že to, o čem mluvíme jako o vědomí, nemůže být pouhým produktem „kusu masa“. Že v tom musí být něco „nadpřirozeného“ (jako duše) nebo alespoň „hodně divného“ (jako kvantové fluktuace). Problém je, že takové „divnosti“ se dost vzpěčují empirickému výzkumu a také to vede k protestům a kontroverzím – jak by algoritmy mohly mít duši? Případ s inteligencí LaMDA by nás mohl (nebo raději měl) vrátit na zem.

Video: What is Google LaMDA And Why Is It Important?

Video: Watch Google's AI LaMDA program talk to itself at length (full conversation)

Literatura

Science Alert 14. 6. 2022.

Wikipedia (Google AI).