V poslední době se stále více lidí obává toho, že by mohli být nahrazeni roboty či umělou inteligencí. Nebo z toho přinejmenším mají špatný pocit. Jen málokoho by ale ještě nedávno napadlo, že mezi prvními na řadě budou vědci. Jak ukazuje nový výzkum, založený na šikovné konverzační inteligenci ChatGPT, právě vědci by se zřejmě měli poohlížet po dalších možnostech uplatnění svého případného talentu.
Catherine Gaová z americké Northwestern University a její kolegové se, možná poněkud neopatrně, rozhodli zjistit, jestli si ChatGPT dokáže vymyslet věrohodné falešné abstrakty vědeckých publikací. Tak, aby to lidští recenzenti vědeckých časopisů nepoznali. Udělali to a publikovali to. Není známo, zda je při tom polil studený pot, ale nebylo by se čemu divit.
Ukázalo se, že ano, konverzační inteligence ChatGPT dokáže sepsat takové abstrakty vědeckých publikaci tak, aby recenzenti vědeckých časopisů nepoznali. K tomu je dobré dodat dvě věci, které nejsou triviální. Recenzenti v tomto případě nejsou žádná ořezávátka. Jde o erudované vědce, které vědecké časopisy oslovují „za odměnu,“ tedy například za to, že u nich či u konkurence publikovali kvalitní články. Dělat recenze je prestižní záležitost a vědci si na tom obvykle dávají záležet.
Druhá věc je, že ačkoliv abstrakty jsou krátkým shrnutím na začátku odborného článku a vypadají jednoduše, ve skutečnosti je tvorba abstraktů jednou z nejobtížnějších a nejméně oblíbených součástí tvorby vědeckých publikací. Zároveň jsou nesmírně důležité, protože podle nich se ostatní vědci rozhodují, zda si přečtou celý článek. Typicky se píšou úplně poslední, protože vědci nezřídka překvapeně zjistí, že článek je vlastně o něčem poněkud jiném, než původně zamýšleli. Jinými slovy, když inteligence zvládne stvořit důvěryhodný abstrakt, zvládne všechno.
Jak takový výzkum vypadal? Lidští recenzenti, tedy vědci, dostali směs abstraktů sepsaných lidmi a inteligencí ChatGPT. Ukázalo se, že recenzenti označili celých 32 procent abstraktů generovaných umělými inteligencemi za pravé, tedy za lidský výtvor. Naopak 14 procent pravých abstraktů považovali za výtvor umělé inteligence. Jde o vysoká čísla, zvláště s přihlédnutím k tomu, že recenzenti o experimentu věděli a údajně byli velmi podezřívaví. V běžném vědeckém provozu by zřejmě šlo o ještě podstatně vyšší procenta.
Podle vyjádření Gaové se rýsuje velký problém. Podvržené abstrakty nebo celé odborné články podkopávají vědu a její pověst. Umělé inteligence by mohly být zneužívány množírnami vědeckých publikací „paper mills,“ které rýžují peníze z tvorby falešných vědeckých publikací. Současně je to jedna z možných strategií, kterou může využívat Čína a další orientální despocie proti Západu – sabotáž vědy. Falešné články mohou zmást vědce, zavést výzkum do slepé uličky nebo i ohrozit životy.
Co s tím? Je ironií a zároveň příznakem dnešní doby, že by s falešnými abstrakty a vědeckými publikacemi od umělých inteligencí zřejmě nejlépe pomohly – umělé inteligence. Badatelé totiž otestovali nejen lidské recenzenty, ale také detektor produktů umělých inteligencí (AI output detector), jako je například GPT-2 Output Detector, který je dostupný online a zdarma. Detektor fungoval velmi úspěšně. Badatelé doporučují, aby se těmito detektory vybavily redakce vědeckých časopisů.
Nedávné zprávy ze světa médií zase ukazují, že pokud jde o nahrazení zaměstnanců inteligencemi, tak tam se už věci daly do pohybu. Vyšlo najevo, že americká mediální společnost CNET již celé měsíce na svém webu publikuje články z oblasti financí, které údajně nejsou špatné, kompletně sepsané umělou inteligencí, vystupující pod pseudonymem CNET Money. Umělé inteligence jsou tady a musíme se s nimi naučit žít.
Video: Umělá inteligence, která strčí Google i Siri do kapsy. ChatGPT od OpenAI
Video: Umělá Inteligence se dostává moc daleko
Literatura
Umělá inteligence poprvé simulovala vesmír: Rychle, přesně a nikdo neví jak
Autor: Stanislav Mihulka (27.06.2019)
Google vyhodil inženýra, když prohlásil, že jejich inteligence získala vědomí
Autor: Stanislav Mihulka (14.06.2022)
Konverzační inteligence ChatGPT halucinuje simulace Linuxu a inteligencí
Autor: Stanislav Mihulka (07.12.2022)
Diskuze:
Zbytečné obavy, spíš příležitost
M Večeřa,2023-01-18 10:36:51
Teď by to chtělo výzkum z druhé strany - dokáže AI které je poskytnut plný text práce napsat smysluplnější abstrakt než vědci co jsou za danou prací? Nejednou jsem se setkal s případy kdy abstrakt byl mizerný, nic neříkající apod. Pokud by AI dělala lepší abstrakty, mohli by se vědecké týmy zaměřit na svou práci a tělo textu a abstrakt úplně vypustit, případně při podání článku by jen potvrdili jestli automaticky vygenerovaný abstrakt je OK
Věda nad daty a dojmy (pojmy?)
Jiri Gutman,2023-01-17 17:24:32
Může být hodně zajímavé, jak to bude vypadat ve vědách s daty, jako fyzika oproti ekonomii (poučky?) a sociologii (pojmy).
Re: Věda nad daty a dojmy (pojmy?)
Jirka Naxera,2023-01-18 16:36:46
Ve fyzice se ML zabydluje uspesne radu let.
Co se tyce ekonomie a spolecenskych ved obecne, tady si dokazu predstavit nejen zacleneni jako velmi uzitecneho nastroje, ale tak nejak doufam, ze dojde ke kvalitativnimu prevratu v samotbych oborech.
(jeste po vic nez ctvrt stoleti si pamatuji na nejmenovane VS kde jsem musel povinne na semestr ekonomie, ze jsem si tam pripadal jak Alenka v risi divu. Zhruba pulka prednasky zabralo naprosto nepochopitelne vysvetlovani neceho jako marginalni nabidka, coz jsem s hruzou zjistil, ze coby technik jsem z pritomnych jediny, ktery s vypetim vsech sil nakonec pochopil, o cem je rec (protoze je to v podstate derivace, ze ano, akorat pouzit pojmy ze standardni SS matematiky bylo zjevne pro ekonomy malo nobl), pri liceni o Keynesiancich a Friedmanovcich jsem se chytal za hlavu a za otazku, kdyz tedy mame dve ruzne teorie, ktere davaji naprosto odlisne vysledky, proc se nekdo uz davno nepokusil jednu z nich falsifikovat jsem si vyslouzil velice osklivy pohled. Tady tak nejak doufam, ze by strojove uceni mohlo pomoci velmi vyrazne.
Re: Věda nad daty a dojmy (pojmy?)
Alexander Botev,2023-01-19 07:35:21
Moja zena robi ekonoma v oecd a mozem vas ubezpecit, ze moderna ekonomia nie su poucky, ale matematika, datamining, programovanie.
Re: Re: Věda nad daty a dojmy (pojmy?)
Eva M,2023-01-19 09:29:17
hmm pokud je ekonomie tak exaktní, nabízí se tedy otázka, zda "všechno je jak má být a ekonomie dosahuje svých cílů", nebo zda "není všechno jak má být a tudíž ta ekonomie moc nefunguje" :)
za mne -- no nic moc teda :)
:) ekonomie pro mne dosud byla oborem, kde "vědec" dokáže vysvětlit minulé krachy a dojít si za to pro nobelovku, do budoucna však úspěšný být nedokáže :)
Teda možná namítnete, že za to ekonomie nemůže, protože jí to kazí lidi.... :o) no nevím
Re: Re: Re: Věda nad daty a dojmy (pojmy?)
D@1imi1 Hrušk@,2023-01-19 10:42:38
Docela trefný příspěvek :-)
Ale řekl bych, že od všeho platí trochu:
A) Hardcore ekonomové neřídí toky státních financí, rodinných rozpočtů ani většiny firem. Takže pokud v krizi utrpí škodu, těžko z toho vyvozovat nefunkčnost ekonomie.
B) Hardcore ekonomové řídí lepší finanční instutuce jako banky nebo fondy. A ty obvykle vycházejí z krizí silnější a bohatší. Z toho lze vyvozovat funkčnost ekonomie. Otázku, komu to slouží, ponechme stranou :-)
C) Sice probíhá pravidelný cyklus růstu a recese, ale krize o rozsahu té ze 30. let minulého století už se nikdy neopakovala. Z toho by opět šlo vyvozovat funkčnost ekonomie.
Jinak hlavní rozdíl ekonomie oproti exaktním vědám vidím v tom, že zatímco v exaktních vědách jsou pravidla od počátku vesmíru neměnná, tak v ekonomii mohou mocní lidé některá pravidla hry měnit za chodu. Takže jako sólista si můžete nadrtit veškeré eknomické poznatky světa a postavit na nich svoji byznysovou strategii a pak vám do toho někdo hodí vidle například tím, že projekty, které nejsou dostatečně zelené, nedostanou úvěr od bank, ani je nepojistí žádná pojišťovna. Pokud chcete, aby vám ekonomie fungovala, musíte být těmi, kdo vytvářejí pravidla a nebo na ně alespoň mít blízké kontakty.
Lišíme se od UI, máme víc
Bohumír Tichánek,2023-01-17 14:04:05
Mám za to, že UI nemá intuici. Ta pomáhá úspěšnému vědci, jak známo. Zničeho nic dostane nápad.
Máme smyslové zážitky a jejich zdrojem je buďte hmota anebo Informatika. Žijeme-li v informatické virtuální realitě, pak mají smysl následné názory, jinak stěží:
http://www.novoucestou.cz/?p=67454
... intuice. Bude pro člověka dostupnější a tím i pomalejší. V současné době je intuice jako náhodný záblesk. Probleskne mozkem do vašeho vědomí tak rychle, že často nemáte ani ponětí, co se to vlastně stalo. Řeknete si pak: „Co to vlastně bylo? Byl to nějaký záblesk intuice? Kéž by to bylo pomalejší, abych se na to mohl podívat a zanalyzovat si to.“
A to budete umět. Intuice zaujme stejně důležitou pozici, jakou má dnes intelekt a logika. Ukáže se vám a dá vám možnost volby. A bude dokonce v barvách… nemáte vůbec představu, o čem mluvím. Představte si, že budete mít intuitivní vědomí stejně jasné jako je logika a intelekt. Cožpak to nedává smysl? Vždyť intuice je multidimenzionální proces. Nedává snad smysl, že jak se budete stávat multidimenzionálními, intuice se zpomalí, ukáže se vám a bude vám k dispozici?
---
http://www.novoucestou.cz/?p=67916
... Ve správnou chvíli se okamžitě objeví intuice, takže budete říkat a vědět správné věci, budete vědět, kam zahnout a kam ne. Budete vědět, co bude dál, kdy máte být tiší a kdy nedělat žádná rozhodnutí. Bude to velmi intuitivní!
Re: Lišíme se od UI, máme víc
Jirka Naxera,2023-01-17 15:02:37
Bojim se, ze si to o te intuici jen namluvame. Nedavno clanek na Oslu - AI se podarilo zredukovat slozity system rovnic na 4. Pred rokem a pul - AI se podarilo uspesne odhadnout folding proteinu.
To jsou jen nejkriklavejsi priklady, kdy ve velmi slozitem systemu s vypocetni slozitosti o mnoho radu vyssi nez ma dana AI k dispozici, se clovek naprosto nechyta, zato hloupe AI se podarilo najit nejake strukturni vzorce.
Co bude dalsi? Pocasi/klima?
Re: Re: Lišíme se od UI, máme víc
Hans Voralberg,2023-01-17 21:53:15
No právě. Nápad vám ušetří něco zbytečných pokusů a omylů, nebo vás vyvede ze slepé uličky. Ale pokud dokážete těch pokusů a omylů udělat třeba milion za vteřinu, případně čas od času upracvit parametry o nějakou random hodnotu, tak žádné nápady nebo intuici nepotřebujete....
Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Bohumír Tichánek,2023-01-18 08:59:19
Intuice nejen ve vědě, v denním životě počítačová rychlost milionů/s nemá vliv.
Řidič projíždí svým autem miliony zatáček. Ale jen 1x ho napadne zpomalit a držet se velmi vpravo = intuice.
Mladík je na vojně, cítí nebezpečí či cokoliv podobného a matka se ho později ptá, v souvislosti = měla intuici.
*
Slovník cizích slov mdop.wz.cz/palm
intuice - tušení, vytušení, schopnost postihnout
VEĽKÝ SLOVNÍK CUDZÍCH SLOV, Vydal Robinson, s.r.o., Bratislava, 2006
intuícia - poznanie vnuknutím; náhle vnuknutie, tušenie, predtucha
Vezmu-li český slovník, pak vysvětlení hledaného slova platí i pro UI.
Kdežto slovenský slovník vysvětluje intuíciu tak, že pro UI nevyhovuje. Leda by za počítačovou UI byla další neznámá inteligence, předpokládám.
Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
D@1imi1 Hrušk@,2023-01-18 10:06:22
Pokud chcete v intuici hledat naši odlišnost oproti AI, potom by Vás neměl zajímat primárně lexikální význam slova, nýbrž funkční podstata toho jevu. A podstata intuice spočívá prostě v tom, že mozek nad něčím přemýšlí, aniž by o tom spravil Vaše vědomí a potom mu oznámí až hotový výsledek. Zrovna na v intuici není důvod hledat nic transcendentního.
Kdyby se Vaše vědomí mělo zabývat každou blbostí, kterou mozek zpracovává na pozadí, praskla by vám z toho hlava :-)
Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Bohumír Tichánek,2023-01-18 11:26:24
I přes Vaše doporučení je mi prvotní definice intuice, a pak následuje hledání funkční podstaty. Však právě ve dvou slovnících se ukázala nutnost hledat, posuzovat, oč vlastně jde v různých přístupech.
Promiňte, ale právě v intuici hledám to "transcendentní".
Kromě materialistického přístupu, který dává mnoho potřebného, hledám i v tom, co nabízí možnost světa coby virtuální reality. Např.:
http://www.novoucestou.cz/2013/09/18/kryon-intuice-pruvodci-a-andele/
"...Nastíním vám teď, jak tento proces probíhá a kde má svůj původ. Říkají vám, že to samozřejmě začíná v mozku – ale není to tak. Totiž přes všechna vysvětlení psychologů nejsou tyto věci, které prožíváte, biologického původu. Stejně vám ale říkají, že všechny myšlenky vznikají a zpracovávají se v mozku, v seskupeních, kterým říkají synapse. Možná budou dokonce mluvit o pevně daných projevech vědomí, které jsou přenášeny nervovými spojeními a tvoří lidské myšlenky. Takto je to linearita vtěsnaná do slov, nebo jak tomu chcete říkat. Ale nic z toho to není. Tohle všechno jde zvenku dovnitř...."
Re: Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
D@1imi1 Hrušk@,2023-01-18 19:22:47
Pokud je Vám prvotní definice intuice, zkuste napřed zformulovat tu svoji, jelikož každý se tím slovem snaží popisovat trochu jiné jevy.
Potom se můžeme dále bavit, jestli Vámi popisovaný jev je:
A) transcendentní povahy
B) přirozenou funkcí mozku
C) iluzí vzniklou selektivní pamětí a domýšlením si neexistujících vzpomínek, jak naznačoval níže Jiří Naxera
Bez té definice by to byla jen diskuse o neostrých dojmech ;-)
Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Jirka Naxera,2023-01-18 16:46:13
ad intuice: Řidič projíždí svým autem miliony zatáček. Ale jen 1x ho napadne zpomalit a držet se velmi vpravo = intuice.
Tohle delam bezne, proste mi prijde dobrej napad si vyzkouset, jestli u daneho auta mam odhad, kde konci guma. Udelam to a do peti minut o tom nevim.
Jednou jedinkrat z mnoha tisic se naproti vyriti nakladak, mezi nama 5cm mista a tak tak se udrzim na silnici. Se stazenym ritnim otvorem pak jedu dalsich 100km, celou situaci si budu pamatovat sakra dlouho a vsem budu vykladat o intuici.
Neco podobneho je ta matka a vojak. Kdyz to sedne, tak si to pamatujete a davate tomu vyznam (a to nemluvim, ze mozek si klidne falesnou vzpominku vyrobi -> co si nenapisete predem na papir, to neplati)
ad. Vezmu-li český slovník, pak vysvětlení hledaného slova platí i pro UI. Kdežto slovenský slovník vysvětluje intuíciu tak, že pro UI nevyhovuje. Leda by za počítačovou UI byla další neznámá inteligence, předpokládám.
Slovnik vysvetluje, co nejake slovo obvykle znamena, pro co se pouziva. Schvalne si najdete zkratku ToE a poradne si ji nastudujte. Znamena to, ze uz dokazete sjednotit kvantovku s relativitou? Samozrejme se ne :-) Znamena to jen, ze uz vite, pro co se slovo ToE (Theory of Everything) pouziva a pro co ne.
To same s inteligenci. Mluvite o (nezname) inteligenci, ale dokazete tu inteligenci exaktne definovat? Tedy tak, ze pokud vezmete libovolny jev/dej, tak podle definice dokazete odpovedet, jestli inteligencni je, nebo neni. A pak druhy pozadavek, aby to "fungovalo" i na extremni hypoteticke priklady (fungovanim myslim tim, ze extremni priklad nevede k zjevnemu sporu).
Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Bohumír Tichánek,2023-01-18 18:36:21
Matka s vojákem:
Matka se mne jedinkrát ptala na zvláštní spojitost s mým výskytem na vojně, takže naprosto nejde o zapomenutí jiných podobných situací. Tehdy šlo o nebezpečí veškeré ztráty, takže to byla zásadní situace, hodná zapamatování. Ptala se ve spojitosti, že měla obavy, strach. Takže situaci nevysvětlitelně vystihla.
Ale takových "náhod" bývá v životech lidí víc, z vědy ji zná a sleduje nejspíš jen psychologie.
*
čtu: "najdete zkratku ToE a poradne si ji nastudujte. Znamena to, ze uz dokazete sjednotit kvantovku s relativitou? Samozrejme..."
Zkratku ToE jsem neznal, vyhledávač nabídl např.:
https://www.abbreviationfinder.org/cs/acronyms/toe.html
má tabulku snad 20 Acronymů. Např. TOE - Jícnová echokardiografie
Kvantovku s relativitou sjednocuji, ovšem jaké rovnice jsou k tomu potřebné, raději zde neuvedu - pozor na vývrtku. Zajisté je to sjednocení jen v mém samohodnocení, FÚ AVČR 9.9.2022 odpověděl: "Naše instituce se bohužel zabývá zcela jinou problematikou, takže je nemůžeme kvalifikovaně posoudit – Ing Roman H."
Re: Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Jirka Naxera,2023-01-18 20:17:15
ad ToE - z kontextu (dal jsem to napsal primo) je jasne, ze slo o tento vyznam https://en.wikipedia.org/wiki/Theory_of_everything ale je to jen slovickareni - i kdybyste nastudoval popis vsech moznych vyznamu, je tam Teorie vseho jako podmnozina.
Kazdopadne pokud mate rovnice a nechcete je rict, tak gratuluji, na planete je pres 7 miliard lidi, kteri ty rovnice nemaji, prestoze nekteri z nich by je radi zverejnili, coz by jim zarucene prineslo Nobelovu cenu.
Ale pokud je nechcete uvest, tak byste mel byt schopen dat odpoved na tenhle (posledni dobou hodne diskutovany problem, ma spojitost s kvantovymi vypocty).
Mejme 3+1D AdS prostor, kde podle AdS korespondence je 2D "okraj", jehoz mikrostavy koresponduji s mikrostavy bulku. Jde tedy z principu sestavit "slovnik" mezi mikrostavy na okraji a bulku.
A mikrostavy na okraji muzete nechat pocitat v kvantovem pocitaci.
Strcte do toho prostoru kosmonauta v rakete. Ten chvili poleti, a pak hodi kostkou. (ignorujme obrovsky pocet mikrostavu) z toho, co namerime na okraji = z vystupu kvantoveho pocitace lze tedy poznat, jake cislo kosmonaut hodil.
Ted do toho prostoru "strcte" cernou diru, a nechte kosmonauta hodit kostkou az pod horizontem. Opet, co hodil mame zakodovane v mikrostavu na boundary, jenze s podstatnou zmenou - ta cerna dira uvnitr zpusobi to, ze z vypoctu AdS/CFT slovniku se stane vypocetne mnohem narocnejsi ukol. Muzete ale udelat to, ze se "prenesete" do toho prostoru/naklonujete, v principu nad horizontem te diry tomu nic nebrani (tam slovnik mate), vlezete do druhe rakety, poletite take do cerne diry a pod horizontem se proste podivate, co padlo.
Pristup ma par chyb, hlavni je ze zemrete (nebo Vas klon) ;-) A navic to nemate jak komu rict. Ale vyvoj kvantoveho systemu je unitarni a bezi na kvantovem pocitaci, muzete otocit cas a tim se zachranit. Az na to, ze do stavu pred padem -> zase nevite nic.
A moje otazka: Pokud casem dojde k vypareni one cerne diry, zmeni se neco? Bude pak informace o padnutem cisle dostupna? (a mnohem zavaznejsi, pujde toho kosmonauta ozivit?)
Re: Re: Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Bohumír Tichánek,2023-01-18 21:04:24
"Ale pokud je nechcete uvest, tak byste mel byt schopen dat odpoved na tenhle (...."
Souvislost ve Vaší větě je mi nesrozumitelná. Svět je natolik promyšleně a složitě řízený, že jsem nebyl překvapený, když kontaktování AV dál nevedlo. To bych před desetiletími jako materialista nevěděl. Vysvětlení toho, co vnímáme, proč se zpomaluje čas při pohybu, sleduji výpočty, jež nemají iracionality.
Re: Re: Re: Re: Re: Re: Re: Re: Lišíme se ... Intuice nejen ve vědě
Jirka Naxera,2023-01-19 02:58:47
Tak při kontaktování reálného vědce je zejména potřeba ho přesvědčit, že komunikace s Vámi bude smysluplná (což vzhledem k tomu, co všechno se k nim občas dostane není zase až tak triviální.
Pak další věc, kontaktovat instituci jako celek nedává žádný smysl. Pokud už nejste v akademickém prostředí a myslíte, že máte něco hodnotného, pak vždy kontaktovat konkrétního výzkumníka s blízkou specializací atd.
ad vysvětlení zpomalení času - to snad vysvětlil do podrobna Albert Einstein před více než sto lety empirickým faktem, že geometrie prostoru ve kterém žijeme není Eukleidovská, ale Minkowského (případně jakoukoli z mnoha ekvivalentních formulací, když řeknete, že grupa (lokálních) symetrií není Galileova, ale Poincarého - to sice není tak jednoduché na představení si, jako geometrická formulace, ale zase přes teorii reprezentací vede ke kvantové teorii pole).
Re: Re: Lišíme se od UI, máme víc
Hans Voralberg,2023-01-17 22:02:03
"Co bude dalsi? Pocasi/klima?"
S velkou pravděpodobností se dozvíme, že už existuje systém, který navrhuje optimální válečnou strategii. Průzkum vám přinese polohu a přibližné počty nepřátelských jednotek, samozřejmě zná polohu a počty vašich jednotek a navrhne vám další krok nebo serii kroků.
Re: Re: Re: Lišíme se od UI, máme víc
Jirka Naxera,2023-01-18 16:52:07
Jsem si jisty, ze jich existuje nekolik, a mimochodem mam z 80 let vedeckotechnickou knizku pro deti (Na prahu neznamych svetu), kde nejen ze podobny system velmi spravne predpovidali (tam se, byt naivne, trefili do dost veci mimochodem), ale hlavne dovedli bohuzel spravne predpovedet i rizika, co z toho plynou, a ke kterym se blizime.
Konkretne podstatne riziko bylo jmenovano v doktrine vzajemneho zaruceneho zniceni, ze s technickym pokrokem klesa reakcni cas na uspesny protiutok az do zapornych cisel, a ze zaporny reakcni cas znamena, ze musite nechat model predvidat chovani nepritele vcetne pripadneho preventivniho uderu.
A v soucasne situaci se velmoci predhaneji v hypersonickych zbranich aneb jak se dostat k nepriteli rychleji na strane jedne, a v protiraketove obrane aneb jak udelat odvetny uder neucinnym na strane druhe. No jen doufam, ze jeste porad je tam v retezci veleni clovek, kterej muze rict "ne".
Martin Zeithaml,2023-01-17 12:10:01
Já bych to neviděl tak černě. AI je jako oheň, dobrý sluha, ale zlý pán. Zrovna u vědeckých studií se přece musí někdo podepsat a stačí se ho zeptat jestli to psal on. Pokud abstrakt k seriózní studii napíše AI, neměl by to být problém protože ne každý vědec je i lingvista. Zvlášť v případě, když abstrakt rozhoduje jestli recenzent studii bude číst nebo skončí v koši.
Za pár let
Tomáš Novák,2023-01-17 11:45:01
...už asi nebudou studenti (a potom ani vědci) muset žádné odborné práce psát...prostě jenom naladí program a ťuknou na "enter"...
Re: Z jakých oborů byly ty abstrakty?
Roman Sobotka,2023-01-17 09:05:44
Z mediciny. Pro AI je to asi jednodussi obor, protoze clanky v medicinskych journalech jsou trochu schematicke.. tato skupina pacientu dostaval tuto medikaci a vysledna statistika je tato.. Ale jeden muj kolega chtel po ChatGPT abstrakt z oboru analyticka chemie a nevypada to zle. Ten problem pro vedu je dost prefoukly, protoze na kvalitni publikaci potrebujete kvalitni data, coz treba v mol-biol oborech trva roky. Pokud ty data vygeneruje ChatGPT, tak je to normalni podvod, na ktery ostatne zadnou AI nepotrebujete. Dobre laborky v kazdem oboru se navic dobre znaji a navzajem se hlidaji. Predatorske casopisy si tak vygeneruji nejaky pseudoobsah, ale to uz stejne delaji.
Spise to bude zajimave ve skolstvi - diplomky typu reserse, seminarky atd. Uz ted je pro VS studenty problem vygenerovat pisemne jakoukoli vlastni myslenku, vse se snazi 'vy-googlit', vetsinou bez velke snahy pochopit, co vlastne kopiruji. AI to udela kompletne za ne.
v com je problem?
Pavel Ondrejovic,2023-01-17 07:11:35
Aspon bude vidno kolko plevelu sa skryva pod "vedeckymi clankami". Je podivny pristup sa k tomu stavat, ako luddita.
Ak niekto napise nezmyselny clanok a AI mu k tomu napise skvely abstrakt za pomoci ktoreho mu to vydaju, nie je predsa chyba v tej AI, ale v systeme ktory umozni vydat nezmyselny clanok.
Naopak: ak niekto urobi serioznu vedu, tak AI ktora z jeho vysledkom da marketingovu omacku spravi dobry skutok.
Re: v com je problem?
David Nečas,2023-01-17 14:42:41
Vydávání vědeckých článků je výnosný byznys. Tyranie formálně úředně pojaté scientometrie nutí všechny pořád cosi vydávat. Jo, a recenzování není ‚za odměnu‘, jak se tady uvádí, vesměs je to naprosto za trest – ale někdo to dělat musí. Nepřijde mi, že AI pomůže s kterýmkoli z problémů. Pakliže si myslíte, že s tím posledním, tak ne, rozhodně nechci psát články, aby se zalíbily jakési neuronové síti; někdy je to dost těžké i s lidskými recenzenty, se kterými se ale aspoň dá diskutovat.
Knihovna bez autorů
Petr Pinkava,2023-01-17 06:39:31
Dělám research a hodlám citovat UI ? Špatně. Nemůžu claimnout závěry na základě toho
odkud jsem vzal pramen informací. Mohu být snadno obviněn ze self-researche. No a tak
se nám tu objeví hodně vědců kteří čerpali informace z UI - mnohdy pravdivé - kteří
mají validní závěry. Co potom s nima ? Řekneme jim dodělejte si reference na základě
existující literatury ?
Re: Knihovna bez autorů
František Kroupa,2023-01-17 17:08:17
Škoda že nemluvíte jazykem našeho kmene :-(.
Re: Re: Knihovna bez autorů
Petr Pinkava,2023-01-19 14:49:32
Zkusme tu myšlenku vzít z druhého konce. Někdo si něco přečte v existující literatuře, odkáže se na ni (reference) a učiní nějaký validní závěr (například vypočítá obvod kruhu protože si to přečetl v učebnici matematiky) Tento závěr může prezentovat a odkázat se na učebnici jako na zdroj informací. Nyní si někdo něco přečte z UI a něco se tam dozví. Bude to chtít prezentovat ale nemusí se mu podařit najít žádné další zdroje mimo UI protože nepůjde dohledat autora. Takového člověka se budou lidé ptát "Jak jste na to přišel" a on odpoví "Řekla mi to UI." Proto jsem řekl o UI že je to knihovna bez autorů.
Pavol Hudák,2023-01-16 23:09:58
Aky bude zmysel zivota, ked AI spravi vsetko za vas? Ked budete mat nulovu hodnotu na trhu prace, pretoze AI a neskor roboty vsetko spravia omnoho lepsie a omnoho lacnejsie ako vy? Spomente si ako vyzerali generatory obrazkov a textu pred 5 rokmi. Ake asi bude mat AI schopnosti o 5 rokov? A ake o 10 rokov?
Buďte v klidu
D@1imi1 Hrušk@,2023-01-16 23:32:02
Doba, kdy AI bude zvládat instalatérské práce, vyměnit rozbitý větráček v počítači, vařit nebo pečovat o pacienty na lůžku je ještě dost daleko.
Re: Buďte v klidu
Hans Voralberg,2023-01-16 23:56:22
Nicméně VŠ oborům asi odzvonilo. Číst data z monitoru a na základě nich zadávat jiná přes klávesnici do počítače je velmi neefektivní.Snad ještě práce v terénu nám zůstává a částečně i práce v laboratoři.
Re: Re: Buďte v klidu
D@1imi1 Hrušk@,2023-01-17 08:38:13
Řekl bych, že taky neodzvonilo. Možná časem za pár desetiletí. Kolik procent výzkumné práce se zcela obejde bez té práce v terénu, v laboratoři nebo bez dalších situací, kdy je potřeba fungovat ve fyzické realitě? Takže bych zatím čekal jen nějakou formu transformace, kdy tu vědeckou práci budou nadále vykonávat lidé, jen budou mít k dispozici výkonné nástroje na to neefektivní datlování nebo vytváření tabulek. Beztak už dnes spoustu vědecké práce dělají s nižšími náklady Číňané a Indové, tak se k nim ještě přidá AI.
I v jiných oborech zavedení AI a robotizace obvykle nevede k zániku lidské práce, jen k transformaci. Například ve skladnictví. Tam počítače a robotizace dnes pomáhají obrovským způsobem, ale rozhodně neplatí, že by v tom oboru pracovalo méně lidí. Časem k tomu možná také dojde, ale to není závislé ani tak na výpočetních systémech, jako zejména na hardwaru. Tam platí Moravcův paradox:
https://cs.wikipedia.org/wiki/Moravc%C5%AFv_paradox
Je možné, že se i ten problém hardwaru nakonec podaří vyřešit tak, že vyrobené stroje budou schopné plně nahradit lidi ve fyzickém světě a potom bychom se opravdu museli obávat o svoji existenci nebo přinejmenším o její náplň. Ale tato doba je ještě hodně daleko. Teoreticky by se toho někdo z nás mohl dožít v důchodu, ale možná také nikdo.
Re: Re: Re: Buďte v klidu
D@1imi1 Hrušk@,2023-01-17 08:47:19
Ještě bych dodal, že ten stav lze vnímat také velmi pozitivně - aspoň by se mnoho mladých studentů mohlo přesunout k medicíně, aby nechyběl personál ve zdravotnictví. A nebo se více inteligentních lidí může věnovat řemeslům, takže se člověk nebude bát pozvat si řemeslníka domů a svěřit mu nějakou práci. Teď je situace taková, že co člověk může, si radši udělá sám, aby se nemusel rozčilovat s nějakým lemplem či nešikou, který za velké peníze způsobí víc škody než užitku.
Re: Re: Re: Re: Buďte v klidu
Jirka Naxera,2023-01-17 15:20:00
Bojim se, ze tudy cesta nevede. Zatim jak to tak sleduji, tak v ramci moudreho sjednocovani eurosojuzu je vysledek takovy, ze akorat neuveritelne rostou formalni pozadavky na vsechno mozne a nemozne.
Takze spis se to zatim vyviji smerem, ze remesla budou vykonavat akorat velke firmy, ktere maji na to si od kazde kvalifikace sehnat nekoho se vsemi papiry kdo jim to pokreje, a pak lopaty co budou za 100kc/hod makat. (a samozrejme, ze budou zakaznikovi uctovat tak 4k/hod minimalne, kdyz muzou a maji v podstate oligopol.)
BTW zaslechl jsem cosi o tom, ze jista profesni organizace se pokusila (nastesti neuspesne) prosadit omezeni prodeje elektromaterialu. Ze si bez ICO (nastesti porad jakehokoli) nekoupite ani beznou kyselinu je dalsi hrebicek do rakve.
Re: Re: Buďte v klidu
David Nečas,2023-01-17 14:43:56
Jakou VŠ jste studoval, že to ve vás zanechalo tento dojem?
Re:
Ondřej Nečas,2023-01-17 09:40:27
Hlavní problém UI v současnosti není v tom, že by nás nahrazovala, ale v tom, že plácá hovadiny, které se velmi obtížně odlišují od pravdy. Ty generované vědecké práce jsou kompletně vycucané z prstu a nemají žádnou validitu. Nebezpečí pro vědce není v tom, že přijdou o práci, ale v tom, že polovinu pracovní doby stráví nimráním se v generovaných nesmyslech, místo aby dělali něco pořádného.
Re: Re:
Eva M,2023-01-17 10:59:00
že by?
"UI plácá hovadiny", mnozí vědci/"vědci" - ať už z různých důvodů - rovněž, zdá se, že někdy není úplně lehké ověřit i samotnou fyzickou existenci vědce (vzpomeňmež covidu)...
..... :) osobně bych si moc neslibovala od rozšíření spoluúčasti UI na řešení problému, který sama pomáhala vytvořit, spíš přesně naopak - aby bylo jasné, kdo za dílkem osobně stojí
Což ovšem při objemu vědecké produkce není moc snadné.
Erudovaným na vedoucích pozicích navíc může hrozit, že se z nich stanou spíš "mluvící hlavy", které ztratily kontakt s "úrovní, kde vznikají data"...
Re: Re: Re:
Roman Sobotka,2023-01-17 13:20:19
System identifikace lidi ve vede se vyrazne zlepsil diky systemu ORCID (https://en.wikipedia.org/wiki/ORCID). Pro korespondujici autory je ORCID povinosti v drtive vetsine periodik, ORCID je dnes linkovany i pro vetsinu spoluautoru. Takze z tech desitek tisic vedcu se jmenen Zhang, nebo Liu by nemel by jiz takovy problem presne identifikovat konkretniho jedince.
AI muze byt ve vede hodne uzitecna na vykutani informaci ze velkych souboru publikaci (desitky tisic). Data-mining je dnes obor, kde se veci posouvaji obrovsky dopredu. Asi bude v budoucku bezne, ze AI vytvori nejakou formu technicke reserse na urcity problem. Hlavne ve velkych oborech, jako je imunologie, vyzkum nadoru atd to ma smysl.
Re: Re: Re: Re:
Eva M,2023-01-17 14:20:37
"vykutani informaci ze velkych souboru publikaci (desitky tisic)" -- tak to určitě jo, nicméně výsledek by asi taky závisel na míře zamoření těch souborů těmi AI-generovanými materiály :)
/jen taková hypotetická úvaha... i když ... :) /
Re: Re: Re: Re: Re:
Jirka Naxera,2023-01-17 15:31:12
Myslite treba, ze by se v AI-driven metaanalyze pozapomelo na vyhodnoceni kvality jednotlivych zdroju? Velmi poucne cteni je treba tohle https://astralcodexten.substack.com/p/ivermectin-much-more-than-you-wanted - doporucuji precist cele, hezka ukazka, jak se veda dela (a kde by AI mohla pomoct, at se drzime tematu).
Nebo z jineho oboru, myslite treba, ze v tunelech LHC sedi zakerna AI ktera zamoruje detektory casticemi? https://www.science20.com/tommaso_dorigo/deep_learning_boosts_the_performance_of_particle_detectors-255870
Re: Re: Re: Re: Re: Re:
Eva M,2023-01-17 17:55:14
:) dobrý den, no, to snad ani ne /tedy že by zákeřná AI někde seděla/
To s tím ivermektinem jsem přelétla - je to fakt dlouhý a odborný (jsem pololaik či 80% laik; sem si chodím udělat takovou zábavnou "sociálně-kontaktní pauzičku"); pokud zalovím v paměti, vygúglím:
https://www.sciencedirect.com/science/article/pii/S0166354220302011 -- tady to někde začalo
https://www.fnusa.cz/ivermectin-dobra-tolerance-lecby-a-mozny-pozitivni-efekt/ -- pak přišlo jaro+sluníčko /nebo jaký faktor to zaúřadoval/, vakcíny, monoklonální protilátky a ivermektin to převálcovalo.
chtěla jsem Vám ještě najít tuším doc. Balíka, jak vykládá o různých fázích onemocnění+ tímpádem různé vhodné léčbě, ale našla jsem pouze
https://www.irozhlas.cz/zpravy-domov/ockovani-proti-koronaviru-vakcina-astrazeneca-rozhovor-martin-balik_2103191558_zuj
:) a tuším na twitteru se prof. Flegr svěřil, že dostal covida, když šel na posilovací dávku
:) čemuž se nedivím, např. tzv očkovací centrum v Brně-Bohunicích vypadalo hrozně; čekací doba v davu přes 30 min- a to jsem byla objednaná! - ani tu blbou světelnou tabuli se neobtěžovali vyhodit před barák, aby tam člověk nemuset tvrdnout; tož jsem si postěžovala, a bylo mi řečeno, že jsem "měla smůlu, protože jsem přišla v dobu, kdy chodí důchodci".
Od té doby si o p. ministru zdravotnictví - jeho nemocnice! - myslím, že je..... nemám o něm moc dobré mínění.
Re: Re: Re: Re: Re: Re: Re:
Eva M,2023-01-17 18:09:58
Jinak:
- na ten covid je furt jakási úmrtnost, že? ale už se to moc nerozebírá a nesleduje; laik už se nic nedozví...
- na Vašem odkazu o ivermektinu je zajímavé, kolik práce bylo nutno vynaložit, aby se došlo k závěru, že "v nejlepším případě nic moc". Vlastně na to "zařval" hodně velký podíl těch původních studií; zde vizte jednu formu té "zamořenosti databází", nepochybuji, že AI použitá cíleně s úmyslem podvodným,manipulativním a podobně, by to dovedla na vyšší level.
- do jaké míry byla ta vyřazení oprávněná - neposoudím, snad /předpokládám, že ano. Trochu mi ale připadá, že tam hrozí určité "žehlení dat" -- :P esli by tomu Flemingovi nevyhodili tu slavnou plesnivou misku jako "plesnivá, nelze hodnotit"... jistě, že by byl ten ivermektin fakt zázrak, se nezdá pravděpodobným
- předpokládám, že perfektně porovnatelnou studii na živých ohrožených lidech těžko dělat - všichni dělají, co mohou, aby je z choroby vykřesali, matoucích faktorů může být dost. ta hypotéza o červech byl zajímavý nápad.... teoreticky by ten ivermektin také mohl mít "jiný slabší podpůrný účinek jiného druhu než inhibice reprodukce viru" /netvrdím, že je tomu tak/
:) Ty poloideologické kydy na konci si autor moh odpustit.
Re: Re: Re: Re: Re: Re: Re: Re:
Eva M,2023-01-17 18:17:25
no a na závěr - fakt koukněte na ty čuníky a na vývoj a situaci kolem virů PRRS, včetně situace kolem vakcinace, souběžných a následných infekcí atd. (doporučuji důkladně prostudovat) a např. na https://naschov.cz/dalsi-nocni-mura-v-chovech-prasat/
Lidi sice nejsou prasátka /tedy... víceméně :) /, a paneláky, MHD, pracoviště, nákupní střediska a školy nejsou prochladlé a počůrané a pokakané /no, před lety mne v tomto směru překvapil hnusný zápach linoucí se na školní chodbu, ale předpokládám, že i tam to do stáje mělo daleko/ - ale s výhradami i tak....
Závěrem - AI je zajímavá věc, ale když skončíte na tom, zda jsou věci "postaveny na reálném základě", mnohdy pravda ekonomickém, pak.....vám taky může být plat prtná.
:o) teda až na to, že za vás odedře ty publikace. to zas jo :o)
Re: Re: Re: Re: Re: Re: Re: Re: Re:
Jirka Naxera,2023-01-18 17:05:14
K tomu Ivermectinu, na tom je prave poucne to, ze je dlouha, se vsemi strastmi, a ze to neni predzvejkanej zaver pro verejnost, ale opravdu popsana cela uvaha az k zaveru.
A ze Astral Codex pise clovek (psychiatr) pro beznou verejnost. Tedy neco jako Osel. Opravdu to prezvejkejte, stoji to za to.
tl;dr: Vetsina pouzitych studii o Ivermectinu byla bud chybna, nebo fraud. Po vyrazeni podezrelych zbyly dve skupiny, jedna ktera tvrdila, ze Ivermectin nepomaha, druha zase nade vsechny (i statisticke) pochybnosti prokazovala, ze pomaha.
Zahada? Vypadalo to, ze studie, kde Ivm. pomahal, se konaly v mene rozvinutych zemich.
Navrzeny vysledek? Ivermectin zabiji parazity. Tam, kde fungoval proti Covidu, shodou okolnosti byl velky vyskyt parazitickych infekci v populaci.
Pro lecbu Covidu se pouzivaji kortikosteroidy, ktere potlacuji imunitni odpoved, a v pripade infekce konkretnim cervikem ale potlacuje i imunitni system, ktery drzi populaci cerva pod kontrolou a navic jeste aktivuji samicky v tvorbe vajicek -> lide tam neumirali na Covid, ale diky lecbe tezkeho prubehu Covidu na hyperinfekci parazitickymi cervi.
A pokud dostali Ivermectin, ktery cervy zabijeji, tak logicky neumreli.
Na cuniky casem kouknu, az mi dira po zubu dovoli se na neco soustredit ;)
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re:
Eva M,2023-01-18 19:02:39
čistě spekulativně - teoreticky by moh ivermektin TŘEBA taky tlumit imunitní reakci+k tomu účinkovat na ty parazity, přičemž v rozvinutých zemích - kde by těch parazitů nemělo tolik být - by mohli mít pacienti k dispozici jiné lepší dostupné podpůrné léčby.........tj. při sčítání /a odčítání/ mnoha slabších faktorů je to docela potíž ........... tam právě nastupují statistici, aby z toho nejrůznějšími kouzly něco procentuálního vykřesali.................:) což je podle mne obecně signál, že efekt "nic moc", markantní efekt je podle mne vidět "pouhým okem"
přeju brzké zotavení :)
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re:
Jirka Naxera,2023-01-19 03:08:45
Čistě prakticky, ne, nemohl, Ivermektin imunitní systém netlumí (jednak teoreticky není mechanismus, kterým by to dělal, ale pak čistě prakticky, pokud by tlumil, tak by jeho užití mělo statisticky významný vliv na průběh Covidu i ve vyspělých zemích s minimem červů, což se neprokázalo.
BTW oni ti statistici vědí, co dělají. Bohužel o tom, že je vhodné místo lidové tvořivosti se na ony statistiky obrátit vědí třeba lidé od urychlovačů, ale v medicíně to ještě není úplně "common knowledge".
Tam spíš byla zjevná chyba v komunikaci, k tomuto výsledku následně dospělo pár dalších studií, dokonce na základě toho vydala WHO doporučení že v případě vyšši pravděpodobnosti na nakažení parazity ivermektin dávat automaticky Covidovým pacientům, kteří na parazity nebyli testováni.
Až na to, že v novinách/televizi tohle nešlo, a na Facebooku se dál za jakýkoli odkaz na Ivermectin banovalo. Ale opět, to není chyba vědy.
Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re: Re:
Eva M,2023-01-19 09:23:36
dobrý den, to nebylo myšleno "prakticky", ale jako hypotetická ilustrace situace, kdy se vzájemně ovlivňuje několik faktorů a není úplně snadné rozklíčovat, jak působí; reálnou aktuální situaci kolem ivermectinu a jeho vlastností jsem neověřovala.
statistika to nějakým způsobem "umí" a vydoluje Vám jakési hrubé pravděpodobnostní souvislosti, které však také mohou být zavádějící (pro hrubou ilustraci - pronásledování vajec jako zdroje "škodlivého cholesterolu" oproti "vejcím jako superpotravině" - ano, hodně obecný příklad)
:) já tedy několik "chyb vědy" vyplývajících z dosavadní diskuze pozoruji, ale tož když myslíte.
Diskuze je otevřená pouze 7dní od zvěřejnění příspěvku nebo na povolení redakce
