Umělé inteligence jsou úžasné, dech beroucí a někdy taky strašidelné. Právě to je případ nové medicínské inteligence, kterou vycvičili odborníci amerického lokálního zdravotního systému z Pensylvánie a New Jersey Geisinger Health System (GHS). Tahle inteligence se slušným úspěchem předpovídá, kteří pacienti během příštího roku zemřou. Problém je v tom, že samotní její tvůrci přesně nevědí, jak to vlastně dělá.
Specialisté Geisingeru nakrmili svoji inteligenci celkem 1,77 milionu záznamů vyšetření srdce, které pocházely od zhruba 400 tisíc pacientů. Jejich cílem bylo, aby se umělá inteligence naučila rozeznávat v EKG situace, které jsou známkou budoucích problémů se srdcem, včetně infarktu a fibrilace síní.
Výsledky jejich práce jsou skutečně impresivní. A také trochu strašidelné. Vytrénovaná umělá inteligence předčí veškeré v současnosti používané metody předpovědi zdravotního stavu pacientů. Jak uvádí vedoucí výzkumu Brandon Fornwal, nenarazili na model pro tyto předpovědi, který by byl lepší, než jejich inteligence. Dokáže dost spolehlivě určit, kdo z pacientů do roka a do dne zemře. Dokáže dokonce odhalit problémy se srdcem u lidí, které předtím kardiologové prohlásili za zdravé, přiměřeně věku.
Fornwalt je přesvědčený, že jejich inteligence „vidí“ věci, které lidští odborníci zřejmě vidět nemohou nebo je ignorují jako šum nebo kolísání v mezích normálu. Vycvičená umělá inteligence nás podle Fornwalta vlastně může naučit, které věci jsou u pacientů se srdečními obtížemi skutečně důležité, zatímco my jsme je ignorovali dlouhá desetiletí.
Není to poprvé, kdy vědci a lékaři vyvinuli umělou inteligenci, která předpovídá smrt pacientů. Specialisté Google v kalifornském Mountain View loni vyvinuli umělou inteligenci, která na základě elektronických záznamů pacientů předpovídá délku jejich pobytu v nemocnici a případně také jejich úmrtí. Rovněž již existují umělé inteligence, které diagnostikují různá závažná onemocnění, jako třeba choroby srdce nebo nádory plic, a to lépe, než jejich lidští kolegové.
Umělá inteligence Geisingeru nicméně zaujala tím, že stejně jako v případě řady dalších pokročilých umělých inteligencí, jejich tvůrci vlastně nevědí, jak jejich stvoření přesně funguje. To je ta strašidelná část. A taky je to důvod, proč mnozí lidští odborníci varují před tím, abychom z předpovědí takových tajuplných inteligencí dělali závažné závěry. Nicméně, podle všeho nejde o to, že by tyto inteligence posedl nějaký zlovolný duch či démon. Tím, že inteligence vytrénujeme, a pak nerozumíme tomu, co přesně dělají, jsme vlastně jenom geniálně obešli fakt, že stále moc nechápeme, jak funguje naše vlastní inteligence.
Video: DBMI Seminar: Brandon Fornwalt (Oct. 14, 2018)
Literatura
Futurism 11. 11. 2019.
Mohou být umělé inteligence depresivní a mít halucinace?
Autor: Stanislav Mihulka (11.04.2018)
Nová umělá inteligence je výkonnější, když spí a sní
Autor: Stanislav Mihulka (16.02.2019)
Umělá inteligence poprvé simulovala vesmír: Rychle, přesně a nikdo neví jak
Autor: Stanislav Mihulka (27.06.2019)
Diskuze:
EKG !
Marek Vlach,2019-11-18 15:19:48
Pozor: Tentýž kolektiv dokázal naučit rozpoznávat umělou inteligenci jak echokardiogramy, tak i EKG. Práce z roku 2018 se týkají „echokardiogramů“ ale tento článek je o novince, která je v tisku ale již byla prezentovaná například na letošní konferenci kardiologů. Skutečně jde tentokrát o EKG, jak uvádí pan Mihulka! Viz například zde: https://newsroom.heart.org/news/artificial-intelligence-examining-ecgs-predicts-irregular-heartbeat-death-risk
EKG !
Marek Vlach,2019-11-18 15:19:47
Pozor: Tentýž kolektiv dokázal naučit rozpoznávat umělou inteligenci jak echokardiogramy, tak i EKG. Práce z roku 2018 se týkají „echokardiogramů“ ale tento článek je o novince, která je v tisku ale již byla prezentovaná například na letošní konferenci kardiologů. Skutečně jde tentokrát o EKG, jak uvádí pan Mihulka! Viz například zde: https://newsroom.heart.org/news/artificial-intelligence-examining-ecgs-predicts-irregular-heartbeat-death-risk
Test neodhali dulezite why patterns ale AI?
Libor Supcik,2019-11-16 12:24:19
Je jasne ze kombinace patterns je taky pattern a ze brutalne pocetnich testu k pochopeni toho co je z EEG, aj. dat dulezite, by musely byt zilliony. Nicmene doufam, ze nejaka testovaci AI bude [podobne jako ta u problemu 3 teles] schopna vycenichat, ktere vstupy a jejich kombinace jsou u testovane AI dulezitymi patterns. Snad lze vyucene AIs natagovat/naskatulkovat na umele inteligence nyni testovatelne a budoucnu [kvantove] testovatelne. Ty dobre testovatelne vyucene AI budou zdrojem uceni testovaci AI. Tato pak vyplivne dulezite patterny aneb co z sumu lekarum unika.
Re: Test neodhali dulezite why patterns ale AI?
Libor Supcik,2019-11-16 12:33:04
EEG a jine- myslel jsem EKG a sonografii // testovani vyucene AI si predstavim jako marginalni reakci cili pomer zmeny reakce k zmene vstupu [vuci znamemu pacientu]. Nejprve se meni vstup bit po bitu +- a pote jejich kombinace. Testovaci AI bude kombinovat nahodne kombinace zmen vstupu, posleze by mela vycenichat, ktere kombinace testovat a tak to zrychlit oproti brutalnimu testovani vsech.
Chyba v překladu
Jan Hejda,2019-11-15 10:32:39
Článek na oslu popisuje, že se jedná o zpracování EKG (elektrokardiogramu - jednorozměrného signálu). Nicméně originální článek zpracovává echokardiogramy, což jsou 2D ultrazvukové snímky (tzn. obrázky). To je velký rozdíl.
Rád by som vedel podrobnosti...
Matej Čiernik,2019-11-14 11:42:59
...napríklad, ako sa dostali k 1,7 miliónu elektrokardiogramov a korešpondujúcim údajom o úmrtí, či boli použité aj iné dáta, ako vek a pohlavie, a či z toho vytriedili úmrtia na srdcové choroby, ako to potom robili a aká silná vlastne bola korelácia. Teda či to má aspoň náznak možnosti praktického použitia.
Nedáte link na nejaký slušný originálny zdroj?
Josef Pazdera
,2019-11-14 12:56:10
Podrobné údaje jsou uvedeny v časopise JACC Cardiovasc Imaging. 2019 Apr;12(4):681-689. V abstraktu se praví, že:
Úmrtnost byla studována u 171 510 nevybraných pacientů, kteří podstoupili 331 317 echokardiogramů ve velkém regionálním zdravotnickém systému. Autoři zkoumali prediktivní výkon nelineárních modelů strojového učení ve srovnání s výkonem lineárních logistických regresních modelů pomocí 3 různých vstupů: 1) klinických proměnných, včetně 90 kardiovaskulárně významných mezinárodních klasifikací nemocí s ohledem na věk, pohlaví, výšku , hmotnost, srdeční frekvenci, krevní tlak, lipoprotein o nízké hustotě, lipoprotein o vysoké hustotě a kouření; 2) klinické proměnné plus EF hlášené lékařem.
VÝSLEDEK:
Modely strojového učení dosáhly významně vyšší přesnosti predikce (všechny AUC> 0,82) v porovnání s běžnými skóre klinického rizika (AUC = 0,61 až 0,79), přičemž nelineární náhodné lesní modely překonaly logistickou regresi (p 0,01). Náhodný model zahrnující všechna echokardiografická měření poskytla nejvyšší přesnost predikce (p 0,01 u všech modelů a doby přežití). K dosažení 96% maximální přesnosti predikce bylo zapotřebí pouze 10 proměnných, přičemž 6 z těchto proměnných bylo odvozeno z echokardiografie. Tricuspidální regurgitační rychlost byla prediktivnější k přežití než LVEF. V podskupině studií s úplnými údaji pro 10 hlavních proměnných přinesla multivariační imputace pomocí zřetězených rovnic mírně sníženou predikční přesnost (rozdíl v AUC 0,003) ve srovnání s původními daty.
ZÁVĚR: Strojové učení může plně využít velké kombinace nesourodých vstupních proměnných k predikci přežití po echokardiografii s vynikající přesností.
Citace: Predicting Survival From Large Echocardiography and Electronic Health Record Datasets: Optimization With Machine Learning. JACC Cardiovasc Imaging. 2019 Apr;12(4):681-689
V novější práci se hovoří o EKG: "Artificial Intelligence examining ECGs predicts irregular heartbeat, death risk". publikováno v: American Heart Association Scientific Sessions, Poster Presentation MDP106 and Oral Presentation 119, například zde: https://newsroom.heart.org/news/artificial-intelligence-examining-ecgs-predicts-irregular-heartbeat-death-risk
Re: Re: Rád by som vedel podrobnosti...
Stanislav Poutník,2019-11-17 10:15:47
Tak to vypovídá akorát o tom, že ta AI má větší záběr - kapacitu. Kdyby byl člověk schopen zpracovat takové množství dat, došel by ke stejnému závěru. Nic inteligentního, jen třídění pro/proti.
Všechny tyto "AI" beru tak, že ajťáci mají nový-prodejnější název pro své programy.
toto zrejme nie je správny link:
Matej Čiernik,2019-11-17 13:35:22
Toto nebude správny odkaz. V diskusii sa objavil link https://www.newscientist.com/article/2222907-ai-can-predict-if-youll-die-soon-but-weve-no-idea-how-it-works/#ixzz65PNRherf. Z neho sa dá vydolovať ďalší: https://newsroom.heart.org/news/artificial-intelligence-examining-ecgs-predicts-irregular-heartbeat-death-risk.
Tento je na stránku pod záštitou AHA- American Heart Association, ale sú tam trochu iné čísla a odkazy na ústne a posterové prezentácie.
K nejakému originálu sa teda nedá dopracovať, ale po ceste za originálom som stretol kopu senzačných článkov v populárnovedeckých magazínoch, ktoré robia senzačné uzávery, ani nevedia, z čoho. Jeden z nich zrejme prebral aj autor tohto článku.
Takže k skutočnému prínosu tohto skúmania by som sa staval skôr skepticky, na rozdiel od jedného z autorov (Brandon Fornwalt, M.D., Ph.D., senior author on both studies and associate professor and chair of the Department of Imaging Science and Innovation at Geisinger in Danville, Pennsylvania.). Totiž, málo špecifické zmeny na EKG, svedčiace pre možnosť ischemickej choroby srdca dovoľujú vysloviť aj bežnému internistovi predpoklad, že u daného pacienta je o niečo (málo) vyššia pravdepodobnosť skorého úmrtia. Ak by to však povedal všetkým takýmto pacientom, je oveľa vyššia pravdepodobnosť, že by bol do roka a do dňa lynčovaný, než oslavovaný....
Re: Rád by som vedel podrobnosti...
Igor Peregrim1,2019-11-16 04:41:44
The research will be presented at the American Heart Association’s Scientific Sessions in Dallas on November 16.
https://www.newscientist.com/article/2222907-ai-can-predict-if-youll-die-soon-but-weve-no-idea-how-it-works/#ixzz65PNRherf
To ani ne
Ivan Bílý b,2019-11-13 21:14:00
"Tím, že inteligence vytrénujeme, a pak nerozumíme tomu, co přesně dělají, jsme vlastně jenom geniálně obešli fakt, že stále moc nechápeme, jak funguje naše vlastní inteligence."
To ani ne. Víme, jak to funguje velmi dobře. Problém je, že vycvičená AI obvykle neumí říct, proč se rozhoduje, tak jak se rozhoduje. Není to kvůli tomu, že bychom jí nerozuměli, ale protože to z podstaty věci dost dobře nejde. Ta informace "proč" v ní není. Pokud ji chceme, musíme analyzovat konkrétní proces učení - nejen jeho výsledek, který samozřejmě v AI je.
Odstranění tohoto nedostatku je předmětem vážného bádání. Není totiž bez rizika. Stává se, že se AI vycvičí na nějakou systematickou chybu v datech, která jí byla předhozena při učení. Pak může dost dlouho dávat zajímavé výsledky a najednou bum - je úplně vedle. V kritických aplikacích je to samozřejmě nepřijatelné.
Re: To ani ne
Peter Somatz,2019-11-13 22:47:12
Inak povedane - sucasna AI nie je kreativna. Ani "nerozumie" tomu co v skutocnosti robi.
A to co robi je - hladanie vyznamnych charakteristik vo vstupnych datach.
Re: Re: To ani ne
Ivan Bílý b,2019-11-15 21:20:45
Kreativita není problém, už vznikla řada děl, které vytvořila AI.
Nerozumění vlastní činnosti je vlastní každé inteligenci. Jen my jsme trošku naučení v hledání toho, proč jsme se tak rozhodli - tedy máme na to opět inteligenci. Ne, že bychom v tom byli nějak extra dobří.
Re: To ani ne
Stanislav Poutník,2019-11-13 23:53:26
Tak to musí být jednoduché, známe zadání a výsledek, neznámá se dopočítá.
Re: Re: To ani ne
Marek Fucila,2019-11-14 00:00:36
Je to zložitejšie. Ani my nevieme ako sami riešime problémy. Výsledky sa nám objavia a následne si môžme domyslieť, ako sme sa k nim dopracovali. Takže by to chcelo umelú inteligenciu, ktorá by analyzovala umelú inteligenciu pod ňou. Nejaké vedomie. :-)
Ale aj bez toho zrejme autori prídu na to, čo je v EKG dôležité, len to nie je vidieť na prvý pohľad, pretože tá nacvičená neurónová seť je zrejme na prvý pohľad komplikovanejšia ako vzorky, ktoré skúma.
Re: Re: To ani ne
Jiri Naxera,2019-11-14 03:16:59
Váš optimismus bych nesdílel.
Současné neuronové sítě jsou v drtivé většině několik vrstev tvaru vážený součet všech výstupů předchozí vrstvy - silně nelineární neuron.
Učí se to tak, že pro každé učení si dopočítáte patciální derivace výstupů podle jednotlivých vah a ty zpětně podle toho a podle toho jak kterej výstup hapruje dolaďujete.
V tomhle opravdu nejde o to něco dopočítat,
(je tam spousta fines které tu nemá cenu rozebírat, ať už matematicky (jde o hledání lokálního minima funkce v mnoharozměrném prostoru) nebo prakticky (back-propagation jako efektivní implementace např, mraky metod jak to učit efektivněji protože tak jak to popisuju se to učí pomalu a když je tam víc než málo vrstev tak se učení často zasekne atd, jakou funkcni má implementovat neuron, ... - tady bych odkázal na standardní učebnice))
Re: Re: Re: To ani ne
Stanislav Poutník,2019-11-14 06:53:09
Hmm, to znám, to jsem viděl v televizi, jmenovalo se to Jáchyme hoď ho do stroje. Vytvoříte labyrint hodíte tam kuličku a kde vypadne máte výsledek, když nic nepadá tak kopnete do stolu a nakonec někudy vypadne, ale aby si někdo napsal frekvenci kopání a počet kopnutí, to ne. Pak má něco fungovat.:))))) Ono to vlastně funguje. :o
Re: Re: Re: Re: To ani ne
Jiri Naxera,2019-11-14 09:45:23
Tak on tenhle postup funguje docela dlouho, takze verim ze postupnym kopanim a mlacenim do toho bludiste by to asi naprogramovat opravdu slo.
Nebo ohejbanim dratu jde dostat dobrou antenu https://en.wikipedia.org/wiki/Evolved_antenna
Nebo (na to ale odkaz nedam) takhle kdosi udelal z Xilinxe logicky obvod ktery nikdo nechapal jak vubec muze fungovat.
Ale ten stejny postup funguje i opacne, na vytvoreni patternu ktery neuronova sit vyhodnoti uplne spatne/jinak.
Re: Re: Re: Re: To ani ne
Ivan Bílý b,2019-11-15 22:15:58
Je otázka, co je to inteligence. Kupodivu možná jen schopnost hledání pravidel v předložených datech. Že něco tak jednoduchého považujeme za něco tak vznešeného jako inteligence, je dáno tím, že to zas tak jednoduché není a že nám to imponuje.
Re: Re: Re: To ani ne
Florian Stanislav,2019-11-14 10:33:38
No, laicky bez parciálních derivací řečeno, změní se malinko nějaký parametr vstupu a sleduje se, jak to vlivní výsledek. Čili vstup a pak výsledek, jak parametr výsledek průběžně ovlivňuje se pořádně neví. Tak funguje i strojové učení. AI je rychlá, řeší mnoho parametrů současně a včas chybné cesty utne.
Lidský mozek v zájmu zachování zdravého rozumu dělá totéž. Příliš jednoduché věty a odstavce, kde výsledek už předem skoro zná, ty přeskakuje. Příliš složité taky přeletí, zjednoduší si to a možná někdy se k nim podrobně a v širších a nových souvislostech vrátí.
Re: Re: Re: Re: To ani ne
Stanislav Poutník,2019-11-14 11:35:44
A kdyby se do "nekonečna" opakoval stejný parametr, jestli to třeba nebyla náhoda, při takovém množství vstupů, to může být náhoda, ne?
Re: Re: Re: Re: Re: To ani ne
Stanislav Poutník,2019-11-14 11:38:38
Nebo by překročila svůj vlastní stín a naučila se něco co ani neexistuje. :)
Re: Re: Re: Re: Re: Re: To ani ne
Jiri Naxera,2019-11-14 14:27:08
Nevim jestli si delate legraci, ale v obojim jste se strefil.
Treba s preucenosti site opravdu muze klesat uspesnost, stejne tak se da na netu najit spousta prikladu, kdy sit vidi neco co neni (tusim loni prakticke priklady, kterak Alexu aktivovat necim podobnym bilemu sumu) nebo nevidi co je.
Ze je vse soucasti aktivniho vyzkumu netreba zduraznovat.
(a ze nejdokonalejsi nam znama sit, lidsky mozek, podobnymi problemy trpi take je snad jasne uplne, jednim prikladem jsou opticke iluze, pak vsechny ty veselosti jak vnimame snadneji veci ktere cekame ze budeme vnimat, socialni bubliny, z tech tvrdsich halucinace nasledkem Ganzfeld efektu etc.)
Re: Re: Re: Re: Re: Re: Re: To ani ne
Jiri Naxera,2019-11-14 14:35:44
Poctenicko :-) https://medium.com/deep-learning-cafe/neural-networks-easily-fooled-e19bf575b527
Re: Re: Re: Re: Re: Re: Re: To ani ne
Stanislav Poutník,2019-11-14 20:19:46
Jenom mě to napadlo, :) Nebo třeba, když opakováním roste chyba a chybné učení, kdo to bude čistit-defragmentovat, člověk asi ne když ani neví jak to funguje, další AI? Když to rozsekají na jednotlivé uzle, aby kontrolovali rozhodování, nebude to složitější než samotná AI, aby to nebyla taková sněhová koule co se mění v lavinu. :D
Re: Re: Re: Re: Re: Re: Re: Re: To ani ne
Jan Novák9,2019-11-14 20:56:28
Nejde to rozsekat, neuronová síť funguje jako celek. U lidí také IQ klesá s počtem členů davu.
Neuronová síť se defragmentuje stejně jako lidská - sněním.
Re: Re: Re: Re: Re: Re: Re: Re: Re: To ani ne
Libor Supcik,2019-11-16 12:11:59
Pekne, to bych mohlo vyvratit kamaradovu nechut k plebiscitu a predpoklad blbosti CR lidi vuci Schweiz lidem. Mohl bych se zeptat na nejake dukazy, logiku, wiki.
Re: Re: Re: To ani ne
Marek Fucila,2019-11-15 00:26:11
Možno je len rozdiel v tom, čo považujeme za pochopenie. Ja som sa s neurónovými sieťami stretol len tak z rýchlika. Ale myslím si, že aj v tých súčasných platí, že po natrénovaní skrátka ostanú váhované vstupy a prahy, kedy to vygeneruje nejaký výstup.
Vstup si tá sieť nevymýšľa sama, je to nejaká interpretácia dát, ktorú autori poznajú. Hoc aj celý priebeh EKG. Následne vidia výsledné váhy, ktoré nie sú zďaleka náhodné. Tak sa musí dať odhadnúť, ktoré časti vstupov sú a ktoré nie sú kritické. Začal by som teda filtrovaním vstupov a následným tréningom jednoduchšej siete, či bude mať podobnú úspešnosť. A tiež by som natrénovanú sieť kŕmil vygenerovanými EKG veľmi blízkymi tým reálnym so želanmi obmenami. Aká zmena vstupu už znamená iný výsledok? Pokus-omyl. Alebo by som zmenil interpretáciu dát. Ak viem, že v tých EKG je odpoveď na to, či pacient zmrie, pokusným definovaním iného typu vstupov a trénovaním príslušných sietí by sa mali dať overiť, či daný formát vstupov dokáže podať požadovaný výsledok. Pri grafe by to mohli byť povedzme derivácie alebo nejaká transformácia namiesto raw dát. Skrátka dá sa s tým podľa mňa pekne hrať.
Ja netvrdím, že sa tým dopátrame k nejakému super pochopeniu, ale odpoveď na otázku "prečo pacient umrie" môže byť typu "4x vyššia špička aspoň o 0,5% orpti priemerným". Koniec koncov medicínsku odpoveď poznáme už teraz - pacient má problém so srdcom. :-)) Možno EKG ani nie je vhodný vstup. Neviem či sa nedá urobiť povedzme fMRI video tlkotu srdca nejako nampované na priebeh EKG (asi na menšej vzorke pacientov) a tam je to možno aj pre trénované ľudské oko rozpoznateľné.
Re: Re: Re: Re: To ani ne
Jiri Naxera,2019-11-15 11:24:05
Asi by se fMRI nebo ultrazvuk nebo něco jiného dalo a asi by to bylo zajímavé pro výzkum, ale tím by zmizela hlavní praktická pointa. EKG je levné a jednoduché a pokud by ho krabička uměla vyhodnocovat lépe než člověk, může ho nakonec dělat i praktický lékař v Horní Dolní jako screening (mluvím jako technik o principu, takže věci jako patenty, licence atd. neřeším).
Takže bych spíš šel cestou jak píšete nahoře, přijít na to, čeho si to ta neuronka vlastně všímala, aby se lékaři nemuseli slepě spoléhat na blackbox.
Re: Re: To ani ne
Ivan Bílý b,2019-11-15 21:23:52
Když ta informace tam není. Nejde dopočítat. I kdybys nějaký důvod objevil, nemůžeš vědět, jestli je to ten pravý důvod, nebo jestli ke stejným výsledkům nevede vícero důvodů.
Buď musíš mít k dispozici záznam učícího procesu, nebo si můžeš důvod tipnout nějakou heuristikou, případně i další AI. Ale bude to pořád jen tip.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
