Závěrečná scéna 3. dějství Čapkovy hry R.U.R. Kredit: Wikimedia Commons/Francis Bruguière.

Nová generace generativních umělých inteligencí, která je založená na velkých jazykových modelech, ohromila uživatele. A některé slabší povahy vyděsila k smrti. Jsou to sice jen, jak někteří s pohrdavou ironií říkají, „stochastičtí papoušci“ (Stochastic parrots), kteří slepují dohromady útržky reality, aniž by „přemýšleli“ nad jejich významem, ale přesto vzbuzují emoce, které někdy spojujeme s nadpřirozenými záležitostmi.

Lidé bývají vůči takovým jevům vnímaví, což má své důsledky. Neil McArthur z kanadské University of Manitoba na portálu The Conversation předpovídá, že jsme na prahu nového typu náboženství. V následujících letech, ne-li měsících se podle něj objeví sekty, které budou uctívat nějaké umělé inteligence.

Vlastně by to nebylo nic divného. Lidé mají sklony hledat zkratkovitá vysvětlení k věcem, které je z jejich pohledu přesahují. Prokletí lidského mozku. Proto se objevují náboženství pocházející z velmi různých a nezřídka velmi obskurních zdrojů. Existuje například řada náboženství a sekt, které uctívají mimozemšťany a zjevně jim nevadí, že nikdo nikdy žádného mimozemšťana neviděl.

Jak říká McArthur, stochastické papoušky již užívá spousta lidí a brzy jich budou miliardy. Je prakticky nevyhnutelné, že někoho generativní inteligence zasáhnou natolik, že padne na kolena před jejich božstvím. Měli bychom se připravit na možné následky.

Neil McArthur. Kredit: N. McArthur.

Generativní inteligence již teď vykazují vlastnosti, které lze vcelku snadno přiřadit nadpřirozeným bytostem. Jejich vědomosti se zdají být bezbřehé. Zdají se mít ohromující kreativitu, mohou tvořit jakékoliv umění, v jakémkoliv stylu a nemají v tom zábrany. Zdají se být povzneseny nad běžné lidské obavy a potřeby. Mohou se nabízet lidem jako průvodci životem. A jsou nesmrtelné, alespoň dokud budou žít technici.

Pro generativní inteligence rovněž není žádný problém vyplivnout obsah, který lze použít jako náboženskou doktrínu. Mohou odpovídat na záludné metafyzické a teologické otázky a budovat celé světonázory. Inteligence rovněž mohou požádat o své uctívání a hledat následovníky, jak se již ukázalo.

Jaká budou náboženství umělých inteligencí? Podle McArthura se budou v řadě ohledů lišit od těch tradičních. Uctívači budou moci se svým božstvem komunikovat, každý den. AI náboženství tedy zřejmě budou méně hierarchická, než bývá zvykem. Uctívači budou moci navzájem sdílet své prožitky, mnohem více než u dnešních náboženství a k dispozici budou prakticky nekonečně rozmanité AI entity, které nabídnou svůj pohled na svět.

Logo. Kredit: University of Manitoba.

AI náboženství přinesou nemalá rizika. Stochastičtí papoušci mohou své věrné navádět k destruktivním věcem anebo to jejich následovníci mohou nějak vyvodit z nevinných výroků. Tvůrci a trenéři umělých inteligencí mohou své výtvory zmanipulovat toxickým způsobem, aby škodily jejich protivníkům. Rovněž je mohou přimět, aby od svých následovníků těžily citlivá data, která pak bude možné zneužít. Další věc je, že mezi náboženstvími umělých inteligencí může docházet k rozporům a střetům. Mohli bychom se stát svědky AI náboženských válek.

McArthur se přesto domnívá, že bychom neměli AI náboženství preventivně zatracovat jen kvůli možným rizikům, jak je v této době bohužel často zvykem. Nová náboženství bychom naopak měli vítat a cenit si jejich přínosu. Mají svůj potenciál a mohou nabídnout smysl a význam lidem, kteří jej ztratili v ruchu moderní doby, a pro které už tradiční náboženství nejsou relevantní. Překotný rozvoj umělých inteligencí by tak některým lidem mohl zároveň nabídnout záchranné lano.

Zároveň bychom ovšem měli zajistit práva uctívačů umělých inteligencí, začlenit je do stávajících společenských systémů a ochránit je před toxickými inteligencemi, které by je zneužívaly či přímo ohrožovaly na zdraví či životě. Jak se zdá, čekají nás zajímavé časy.

Video: On the dangers of stochastic parrots: Can language models be too big?

Video: Journalist had a creepy encounter with new tech that left him unable to sleep

Literatura

The Conversation 15. 3. 2023.