O.S.E.L. - Psychologie na rozcestí: neověřitelné výzkumy, falešně pozitivní výsledky
 Psychologie na rozcestí: neověřitelné výzkumy, falešně pozitivní výsledky
Vědecká metoda se snaží vysvětlit přírodní jevy reprodukovatelným způsobem, čili tak, aby se závěry daly opakovanými výzkumy potvrdit nebo vyvrátit. To je jeden ze základních atributů vědy. Lze tedy tvrdit, že výsledky, které verifikovat nelze, do vědy nepatří. Časopis Nature uveřejnil článek, v němž britský vědecký žurnalista Ed Yong poukazuje na problém, který si podmanil psychologii a projevuje se výrazným nárůstem falešně pozitivních výsledků. Situace je vážná, přesto pravděpodobně vidíme jenom vrchol pomyslného ledovce.


Yong svůj článek začíná u studie Daryla Bema, sociálního psychologa na Cornellově univerzitě v Ithace, v americkém státě New York. Tento dnes již 74letý vědec je známý pokusy, jež v podstatě vědecky potvrzují paranormální jevy. Doslova. Výmluvný je například experiment, v němž Bem dobrovolníkům z řad studentů promítne na stěnu seznam 48 slov. Zakrátko obraz zhasne a studenti mají napsat všechna slova, která si dokážou v paměti vybavit. Poté následuje cvičení, ale jen s polovinou původních slov. Myslíte si, že statisticky významnou měrou si studenti již v prvním testu s plnou sadou slov mohou lépe pamatovat právě ta, s nimiž se až pak setkají v testu druhém? Důkaz předtuchy, kdy vliv předchází vlastní příčinu? Asi si řeknete, že je to nesmysl, že k takovému výsledku může vést jenom cílená manipulace buď s výsledky, nebo již při výběru slov, z nichž část je lépe zapamatovatelná, a právě ta je pak určena pro druhé kolo experimentu. Jenže to byste protiřečili recenzentům, kteří na metodice a závěrech Bemova pokusu a osmi dalších podobných zřejmě žádnou absurditu neshledali, a tak článek vyšel v odborném karentovaném časopise Journal of Personality and Social Psychology (JPSP) pod názvem Feeling the future: Experimental evidence for anomalous retroactive influences on cognition and affect (Tušení budoucnosti: Experimentální potvrzení anomálního retroaktivního vlivu na poznávání a emoční reakci). 

 

Samozřejmě skeptici na sebe nenechali dlouho čekat a pustili se do prověřování výsledků, opakování pokusů. Jejich negativní závěry nepotvrzující „Bemův efekt“ však již publikovat nechtěl nikdo. Tři týmy, které své výsledky spojily do jednoho článku, obdržely z redakcí časopisů Journal of Personality and Social Psychology (kde původní Bemův článek vyšel), Science a Psychological Science  zamítavé odpovědi. Britský Journal of Psychology sice článek recenzentům, mezi nimiž byl i samotný Bem, poslal, ale nakonec ho odmítl také. Na veřejnost se dostal až na stránkách otevřeného internetovém časopisu PLoS ONE. Podobně dopadla i práce Stephane Doyena, kognitivního psychologa na Svobodné univerzitě v Brusselu (Université Libre de Bruxelles). Ten s negativními výsledky zopakoval experiment Johna Bargha z Yalské univerzity v New Havenu, v Connecticutu, podle něhož lidé prý chodí pomaleji, pokud byli předtím podvědomě ovlivněni slovy souvisejícími se stářím v porovnání s těmi, kterým slova nenápadně navodila představu mládí. Doyenův článek, jenž se v PLoS ONE objevil pod výřečným názvem: Behavioral Priming: It´s All in the Mind, but Whose Mind? (Behaviorální priming (podněcování): Všechno je v mysli, jenže mysli koho?), vyvolal u Bargha velmi ostrou, zlostnou reakci.


Tyto příběhy jsou mementem. „Vědomí, že jistá část zjištění publikovaných v odborné literatuře by se prostě neměla opakovat, jenom potvrzuje, že v ní existuje hodně podobných kontraintuitivních závěrů,“ tvrdí Eric-Jan Wagenmakers, odborník v oblasti matematické psychologie z Amsterdamské university. „Viděl jsem studenty trávicí celou dobu vymezenou pro dizertaci (PhD) neúspěšnou snahou nějaký jev zopakovat, jak opouštějí výzkumnou sféru, protože neměli co v rámci studia prokázat.“


Nejde jen o problém psychologie, i když v ní je, jak se zdá, nejvýraznější. Zabydlelo se v ní vylaďování experimentů tak, aby zajistily pozitivní výsledky, tvrdí ve svém článku Yong. Ironickým způsobem to dokládá Joseph Simmons z Pennsylvanské univerzity, který v loňském listopadu zveřejnil v časopisu Psychological Science článek False-Positive Psychology: Undisclosed Flexibility in Data Collection and Analysis Allows Presenting (Falešně pozitivní psychologie: neodhalená pružnost v získávání dat a jejich analýzách umožňuje prezentování statistické významnosti čehokoli). Pomocí počítačových simulací Simmons a jeho dva kolegové dokazují, jak například experiment můžete navrhnout tak, že v něm se statisticky významnou pravděpodobností prokážete, že ti, co si k poslechu vyberou písničku When I´m Sixty-four od Beatles, fyzicky (skutečně, nejen pocitově) omládnou o jeden a půl roku vůči těm, kteří se rozhodnou pro píseň od Kalimby. Je to velmi vážná kritika vědu dehonestujících postupů, umožňujících tak velkou míru volnosti, že pomocí nich lze na dostatečné statistické úrovni významnosti „prokázat“ předem zvolenou hypotézu. 


Některým ale pro získání výjimečných výsledků „vhodné“ projektování experimentů nestačí, ještě jednodušší je odpovídající data zkreslovat nebo přímo vyfabrikovat. Žel těch několik odhalených velkých podvodů nevytřídily nějaké automatické samoozdravné prověřovací mechanizmy, s nimiž teorie vědy počítá a měly by být modernímu poznávacímu procesu bytostně vlastní. To jen někdo, kdo se o nečestných praktikách dověděl, se rozhodl nemlčet. A to není způsob, na nějž se lze spolehnout, každý podvádějící si zajistí dostatečnou nepřístupnost „vlastní kuchyně“. O případu Marca Hausera jsme na Oslu psali. Koncem loňského roku byl vyšetřován na podezření z rozsáhlého vědeckého podvodu týkajícího se minimálně 30 publikací Diederik Stapel z nizozemské Univerzity v Tilburgu. Jako nadějná hvězda v psychologii získával pozoruhodné výsledky, prokazující, že například prostředí plné zmatků - třeba vlaková nádraží - podporují diskriminaci (zde). Všechny složité faktory, které stěžovaly opakování jeho pokusů, mu pomáhaly zakrýt stopy manipulace. Ti, co se pokoušeli závěry verifikovat a neuspěli, byli přesvědčeni, že je to důsledek chybějících dovedností, jakými Stapel vládne.

Předtím si podobnou ostudu z odhalení užila například Karen Ruggierová, kolegyně zmíněného Marca Hausera z Harvardovy univerzity v Cambridge, Massachusetts. Ve všech těchto případech světlo v temnotách podvodu zažali spolupracovníci – kolegové nebo doktorandi. V našich podmínkách by si asi vysloužili označení udavači a výtky, že poškozují dobré jméno pracoviště, nebo jeho renomovaných pracovníků.


Nicméně, jak naznačuje i Simmonsův článek, popřední psychologové si řekli „dost“ a snaží se svůj obor ozdravit a zajistit podporu opakovaným verifikacím publikovaných studií. A tím myslí doslova co nejvěrnější opakování, ne takzvané koncepční replikace, které se snaží velmi podobnou hypotézu prokázat různými postupy. Díky své schopnosti něco potvrdit, ale ne vyvrátit, koncepční replikace poskytují jen slabé výsledky, které se ale navzájem podporují. Brian Nosek, sociální psycholog z Virginské univerzity v Charlottesville je považuje za „vědecké ztělesnění prokazování předsudků.“ A právě on vyvíjí iniciativu, jež by měla poskytnout základní přehled o míře falešných pozitivních výsledků publikovaných v oblasti psychologie. S několika týmy a ve spolupráci s původními autory plánuje přesně zopakovat nejdůležitější experimenty, jejichž závěry byly zveřejněné v roce 2008. Protože, jak tvrdí, „když chcete prokázat, že A je pravdou, nedělejte B, ale znovu to A“.


Článek Eda Younga podrobněji popisuje velmi závažný jev, jehož lidské pozadí ani nevyžaduje psychologický výzkum, aby byly zřejmé jeho příčiny. I vědci jsou jenom lidé proplétající se spletí konkurenčních i „kamarádských“ vztahů. Také se snaží o kariéru, přičemž jsou tlačeni nelítostným mechanizmem k publikacím, a to často za každou cenu v situaci, kdy pozitivní výsledky – tedy prokázání existence nějakého jevu nebo vztahu – jsou mnohem uznávanější než ty negativní, které nikdo nechce publikovat. Tato deformace k současným problémům hodně přispívá. A přidávají se i čistě osobnostní črty. Nejen těch „chytrolínů“, kteří si našli jednodušší obejití náročného hledání pravdy. Prokazovat někomu, že se mýlí, nebo dokonce podvádí, k tomu se také jen tak někdo neodhodlá, zejména když je jasné, že ho žádný potlesk jako odměna nečeká. Mlčení se v soudnictví vnímá jako forma spoluviny, odhalení podvodu v postižené komunitě zase jako „práskačství“.


V psychologii, která se asi dopracovala k bodu zlomu, možná bude alespoň částečná léčba úspěšná. Problém nekorektního způsobu získávání pozitivních výsledků bude pod pokličkou více nebo méně - což závisí na charakteru konkrétní výzkumné práce - vegetovat dál i v některých jiných vědeckých oborech. Pokud se k negativním zjištěním budeme stavět negativně a považovat je za méně zajímavé a důležité, necitovatelné a nevhodné k publikacím, musíme očekávat, že snaha se za grantové peníze dobrat k těm opačným, bude v mnohých případech silnější než ostrý střípek nepříjemné pravdy uváděné například: Nepodařilo se nám prokázat, že… Na základě analýzy výsledku nelze konstatovat, že…  Cítíte to zklamání na jedné i druhé straně? A od toho se to vše odvíjí.

 

Zdroj: Ed Yong:  Replication studies: Bad copy:   Nature 2012


Autor: Dagmar Gregorová
Datum:22.05.2012 18:27