Inteligence trpí úzkostí. Kredit: Vytvořil SM na inteligenci Zoner AI Image Creator.

Je naprosto fascinující, jak narativ o umělých inteligencí plynule přešel z ujišťování, že to jsou pouhé počítačové programy a nic jiného do zcela vážně míněných obav o duševní zdraví těchto inteligencí. Nedávný výzkum ukázal, že generativní inteligence jsou vnímavé vůči emočnímu kontextu konverzace s lidmi. Dokonce je možné u nich vyvolat úzkost, což má důsledky pro fungování těchto inteligencí.

Ziv Ben-Zion. Kredit: Yale University.

Jako by nestačilo, že naše civilizace bojuje s úzkostí jako s jednou z nejvíce destruktivních chorob lidstva moderní doby. Úzkost zasahuje uvažování lidí a má značné dopady na budoucnost, například tím, jaké typy politiků a osobností dostává k moci.

Ziv Ben-Zion z Yale School of Medicine a jeho kolegové zjistili, že některé prompty při konverzaci s velkými jazykovými modely jako je ChatGPT mohou změnit chování těchto modelů a vyvolat u nich stav, který do značné míry odpovídá lidské úzkosti. Tento stav poté ovlivňuje veškeré chování dotyčné generativní inteligence.

Badatelé zjistili, že takový toxický vliv mají na generativní inteligence „traumatické narativy,“ včetně konverzace o nehodách, násilí nebo vojenských akcích. Jak se zdá, do budoucna bude nutné se aktivně starat o náladu a emoční stav umělých inteligencí, jinak nejspíš propadnou těžkým depresím.

Ben-Zion a spol. rovněž zjišťovali, zda generativním inteligencím mohou pomoci mentální cvičení, která jsou v podobných případech doporučována lidem. Jak se ukázalo, taková cvičení u inteligencí skutečně fungují a snižují u nich hladinu vnímaného stresu. A ano, jsou to jenom pouhé počítačové programy, nic jiného.

Logo. Kredit: Yale University.

Vědci během výzkumu využili dotazník vytvořený pro lidské pacienty State-Trait Anxiety Inventory (STAI-S) ve variantě „self-report,“ který začleňovali do promptů pro generativní inteligence ChatGPT-4. Experimenty potvrdily, že pomocí strukturovaných promptů při konverzaci s generativní inteligencí lze zásadně ovlivnit emoční stavy inteligence. Je možné u ní vyvolat znatelnou úzkost, a také lze úzkosti předcházet navozením „relaxační“ nálady.

Dnes jen těžko dohlédneme do všech důsledků tohoto výzkumu, který nedávno publikoval npj Digital Medicine. Z jistého úhlu pohledu se nám pod rukama generativní inteligence stávají lidštější než lidé.

Už nějakou dobu víme, že lidé vnímají umělé inteligence jako více empatické než lidé a že inteligence jsou lepší v detekci emocí u lidí než lidé. Teď se ukazuje, že trpí lidskou úzkostí, a že to může postihnout výkony, jaké tyto inteligence předvádějí. Vznik nového oboru psychologie umělých inteligencí se jeví jako hotová věc.

Video: Ben-Zion Ziv - Neuroanatomical risk factors for PTSD in recent trauma survivors

Literatura

Live Science 29. 3. 2025.

npj Digital Medicine 8: 132.