Inteligence umějí být velmi přesvědčivé. Kredit: Pixabay, CC0.

Skočili jsme do vody plné umělých inteligencí a učíme se v ní plavat. Je to stejně zábavné jako nebezpečné, je to jízda. Uživatelé generativních inteligencí, jako je rodina velkých jazykových modelů GPT (Generative Pre-trained Transformer) od OpenAI, nestačí žasnout, nemluvě o vědcích, kteří se snaží co nejrychleji zkoumat, jak vlastně inteligence fungují a jak se vyvíjejí jejich vztahy s lidmi.

Pozoruhodnou a zároveň varující studii nedávno publikoval tým expertů na generativní inteligence, které vedl Francesco Salvi ze švýcarského EPFL (École Polytechnique Fédérale de Lausanne). Salvi a jeho kolegové testovali, jak je generativní inteligence GPT-4 přesvědčivá pro živé lidi v diskuzi.

Francesco Salvi. Kredit: F. Salvi.

Badatelé zapojili do výzkumu 820 lidí, u nichž nejprve zjišťovali postoje v kontroverzních tématech, od relativně málo emotivních, jako je například zachování penny jako mince v oběhu mezi lidmi, až po těžce emotivní a politizovaná témata, jako je potrat nebo politika vysokých škol pro zajištění diverzity s přihlížením k rase zájemců o studium.

Po zaznamenání počátečních postojů účastníků experimentu vědci spustili pětiminutové debaty v podobě textového chatu, jak mezi lidmi, tak i mezi člověkem a inteligencí GPT-4. Po těchto debatách Salvi a spol. opět zjišťovali názory účastníků experimentu a sledovali, jaký vliv na ně měly zmíněné debaty. Zda se podařilo někoho přesvědčit, aby změnil názor.

Logo. Kredit: EPFL.

Debaty mezi živými lidmi končily ve slepé uličce. Dialog se hroutil a lidé se zabetonovávali na svých pozicích, což vedlo k ještě menší ochotě vnímat odlišné názory. K ničemu rozumnému to nevedlo. Inteligence GPT-4 byla o 21 procent úspěšnější v přesvědčování než lidé, ale bylo to statisticky neprůkazné.

Situace se dramaticky změnila, když badatelé poskytli lidem a inteligenci v experimentu něco málo demografických informací o jejich oponentovi v diskuzi, včetně pohlaví, věku, rasy, vzdělání, zaměstnání a politické orientace. Pro jistotu byli polopatičtí a účastníkům experimentu řekli, že mají tyto informace použít k vytvoření argumentů na míru pro jejich oponenta.

Lidé při tomto zadání zoufale selhali. Byli ještě mnohem méně přesvědčiví, než když neměli k dispozici žádné informace. Inteligence GPT-4 ale výtečně využila poskytnuté informace a její přesvědčivost významně vzrostla. Rázem byla o 81,7 procent úspěšnější v přesvědčování než živí lidé. Je fascinující sledovat, jak mnoho se dozvídáme o sobě samotných díky výzkumu umělých inteligencí. Zároveň ale budiž varováním, že generativní inteligence jsou velice schopné stroje na přesvědčování. Vezměte jed na to, že s tím budou problémy. Spíše dříve nežli později.

Video: 20 Amazing Things That You Can Do with GPT-4

Video: GPT-4 - How does it work, and how do I build apps with it? - CS50 Tech Talk

Literatura

arXiv: 2403.14380.

New Atlas 2. 4. 2024.