Umělé inteligence jsou úžasné, dech beroucí a někdy taky strašidelné. Právě to je případ nové medicínské inteligence, kterou vycvičili odborníci amerického lokálního zdravotního systému z Pensylvánie a New Jersey Geisinger Health System (GHS). Tahle inteligence se slušným úspěchem předpovídá, kteří pacienti během příštího roku zemřou. Problém je v tom, že samotní její tvůrci přesně nevědí, jak to vlastně dělá.
Specialisté Geisingeru nakrmili svoji inteligenci celkem 1,77 milionu záznamů vyšetření srdce, které pocházely od zhruba 400 tisíc pacientů. Jejich cílem bylo, aby se umělá inteligence naučila rozeznávat v EKG situace, které jsou známkou budoucích problémů se srdcem, včetně infarktu a fibrilace síní.
Výsledky jejich práce jsou skutečně impresivní. A také trochu strašidelné. Vytrénovaná umělá inteligence předčí veškeré v současnosti používané metody předpovědi zdravotního stavu pacientů. Jak uvádí vedoucí výzkumu Brandon Fornwal, nenarazili na model pro tyto předpovědi, který by byl lepší, než jejich inteligence. Dokáže dost spolehlivě určit, kdo z pacientů do roka a do dne zemře. Dokáže dokonce odhalit problémy se srdcem u lidí, které předtím kardiologové prohlásili za zdravé, přiměřeně věku.
Fornwalt je přesvědčený, že jejich inteligence „vidí“ věci, které lidští odborníci zřejmě vidět nemohou nebo je ignorují jako šum nebo kolísání v mezích normálu. Vycvičená umělá inteligence nás podle Fornwalta vlastně může naučit, které věci jsou u pacientů se srdečními obtížemi skutečně důležité, zatímco my jsme je ignorovali dlouhá desetiletí.
Není to poprvé, kdy vědci a lékaři vyvinuli umělou inteligenci, která předpovídá smrt pacientů. Specialisté Google v kalifornském Mountain View loni vyvinuli umělou inteligenci, která na základě elektronických záznamů pacientů předpovídá délku jejich pobytu v nemocnici a případně také jejich úmrtí. Rovněž již existují umělé inteligence, které diagnostikují různá závažná onemocnění, jako třeba choroby srdce nebo nádory plic, a to lépe, než jejich lidští kolegové.
Umělá inteligence Geisingeru nicméně zaujala tím, že stejně jako v případě řady dalších pokročilých umělých inteligencí, jejich tvůrci vlastně nevědí, jak jejich stvoření přesně funguje. To je ta strašidelná část. A taky je to důvod, proč mnozí lidští odborníci varují před tím, abychom z předpovědí takových tajuplných inteligencí dělali závažné závěry. Nicméně, podle všeho nejde o to, že by tyto inteligence posedl nějaký zlovolný duch či démon. Tím, že inteligence vytrénujeme, a pak nerozumíme tomu, co přesně dělají, jsme vlastně jenom geniálně obešli fakt, že stále moc nechápeme, jak funguje naše vlastní inteligence.
Video: DBMI Seminar: Brandon Fornwalt (Oct. 14, 2018)
Literatura
Futurism 11. 11. 2019.